Nhà khoa học từng đoạt giải Nobel vật lý cảnh báo về thảm hoạ nếu không kiểm soát AI

Trí tuệ nhân tạo
11/10/2024 14:32
Ngày 8/10, phát biểu tại một cuộc hop, John Hopfield là một nhà khoa học người Mỹ từng đoạt giải Nobel vật lý năm 2024 cho công trình tiên phong về trí tuệ nhân tạo (AI) cho biết, ông thấy những tiến bộ gần đây trong công nghệ " rất đáng lo ngại và cảnh báo về thảm họa có thể xảy ra nếu không được kiểm soát.
aa
Nhà khoa học từng đoạt giải Nobel vật lý cảnh báo về thảm hoạ nếu không kiểm soát AI
Cần phải có sự hiểu biết để kiểm soát AI như một điều kiện thiết yếu trong lĩnh vực công nghệ

Phát biểu tại một cuộc họp tại Trường đại học New Jersey, John Hopfield nói rằng trong suốt cuộc đời mình, ông đã chứng kiến sự phát triển của hai lĩnh vực công nghệ mạnh mẽ nhưng có khả năng nguy hiểm nếu không được kiểm soát, đó là: Kỹ thuật sinh học và Vật lý hạt nhân.

"Là một nhà vật lý, tôi rất lo lắng bởi một cái gì đó không kiểm soát được, một cái gì đó mà tôi không đủ hiểu rõ những giới hạn có thể thúc đẩy công nghệ đó là gì. Đó là câu hỏi đang đặt ra với AI, hệ thống AI hiện đại dường như là 'tuyệt tác tuyệt đối' nhưng chúng ta vẫn thiếu hiểu biết về cách thức hoạt động của chúng, điều mà tôi cho rằng 'rất, rất đáng sợ'." John Hopfield cho biết.

Đó là lý do tại sao bản thân tôi và Geoffrey Hinton (người đồng chiến thắng giải Nobel vật lý năm 2024) sẽ ủng hộ mạnh mẽ việc kiểm soát AI như một điều kiện thiết yếu cho lĩnh vực này.

Nhà khoa học từng đoạt giải Nobel vật lý cảnh báo về thảm hoạ nếu không kiểm soát AI
John Hopfield và Geoffrey Hinton được trao giải Nobel Vật lý năm 2024 về Các mạng lưới thần kinh nhân tạo lưu trữ và truy xuất ký ức

Mô hình nhận giải Nobel của ông đã được cải tiến bởi Hinton người Canada gốc Anh (được biết đến như cha đỡ đầu của trí tuệ nhân tạo), người có "cỗ máy Boltzmann" giới thiệu yếu tố ngẫu nhiên mở đường cho các ứng dụng AI hiện đại như trình tạo hình ảnh.

"Nếu bạn nhìn xung quanh, những thứ thông minh hơn được điều khiển bởi những thứ kém thông minh hơn, điều này tạo ra nghi vấn liệu khi AI trở nên thông minh hơn chúng ta nó sẽ chiếm quyền kiểm soát". Geoffrey Hinton trao đổi với phóng viên.

Với sự gia tăng nhanh chóng của công nghệ AI và cuộc đua khốc liệt mà nó đã vô tình tạo ra giữa các công ty công nghệ, đã gặp phải những chỉ trích vì AI phát triển nhanh hơn giới chuyên gia. "Tôi lo lắng về bất cứ điều gì có thể xảy ra: AI nhanh hơn con người hay con người nhanh hơn AI? Ta có thể yên tâm với điều đó không? Chúng ta có thể kiểm soát AI không? Tôi không biết, tôi lo lắng về điều đó" - Geoffrey Hinton cho biết thêm. "Đó là lý do tại sao chúng tôi rất cần nghiên cứu thêm".

Nhà khoa học từng đoạt giải Nobel vật lý cảnh báo về thảm hoạ nếu không kiểm soát AI
AI nhanh hơn con người hay con người nhanh hơn AI? Geoffrey Hinton lo lắng về điều đó

"Tôi ủng hộ rằng các nhà nghiên cứu trẻ giỏi nhất của chúng ta hoặc nhiều người trong số họ nên làm việc về an toàn của AI, chính phủ các nước cũng nên yêu cầu các công ty lớn cung cấp các phương án kiểm soát an toàn khi áp dụng công nghệ AI".

Theo CGTN

tan-hoang-minh
Tin bài khác
25 trường đại học được đầu tư phòng thí nghiệm bán dẫn

25 trường đại học được đầu tư phòng thí nghiệm bán dẫn

Bộ Giáo dục và Đào tạo phê duyệt 25 cơ sở đào tạo với 53 chương trình thuộc lĩnh vực vi mạch bán dẫn tham gia Chương trình phát triển nguồn nhân lực ngành công nghiệp bán dẫn. Các trường được hỗ trợ đầu tư thiết bị, phần mềm và nâng cấp phòng thí nghiệm phục vụ đào tạo, nghiên cứu.
Thị trường chứng khoán ngày 16/11: VIC giữ sắc xanh cho VN Index, dù 220 cổ phiếu chìm trong sắc đỏ

Thị trường chứng khoán ngày 16/11: VIC giữ sắc xanh cho VN Index, dù 220 cổ phiếu chìm trong sắc đỏ

VN Index vẫn giữ được sắc xanh, nhưng bức tranh trên bảng điện tử lại hoàn toàn trái ngược khi có tới 220 cổ phiếu giảm giá. Trong khi thanh khoản lao dốc, việc chỉ số tránh được một phiên điều chỉnh đến chủ yếu từ việc cổ phiếu VIC tăng giá và đóng góp hơn 8 điểm.
On Stage 2026: Khi kịch nghệ truyền thống được kể lại bằng ngôn ngữ GENZ

On Stage 2026: Khi kịch nghệ truyền thống được kể lại bằng ngôn ngữ GENZ

On Stage là chương trình nghệ thuật đặc sắc, tổ chức thường niên do Câu lạc bộ Kịch nghệ Life’s So Drama - CLB về kịch nghệ do học sinh trường THPT Chuyên Hà Nội - Amsterdam thành lập và duy trì.
BSR nghiên cứu công nghệ thu hồi, lưu trữ CO₂, hướng tới phát thải ròng bằng 0

BSR nghiên cứu công nghệ thu hồi, lưu trữ CO₂, hướng tới phát thải ròng bằng 0

BSR đẩy mạnh hợp tác nghiên cứu công nghệ thu hồi và lưu trữ CO₂, tìm kiếm giải pháp phù hợp để giảm phát thải trong hoạt động của Nhà máy Lọc dầu Dung Quất, hướng tới mục tiêu phát thải ròng bằng 0 vào năm 2050.
BSR tăng cường hợp tác, bảo đảm tự chủ nguồn cung xăng dầu

BSR tăng cường hợp tác, bảo đảm tự chủ nguồn cung xăng dầu

BSR và Cục Xăng dầu đẩy mạnh hợp tác sản xuất nhiên liệu đặc chủng, phát triển sản phẩm mới và khai thác hệ thống kho chứa, góp phần nâng cao năng lực tự chủ xăng dầu phục vụ quốc phòng và an ninh năng lượng quốc gia.
Tử vi vòng quay công nghệ ngày 17/11/2026: Tuổi Tỵ tài lộc khởi sắc, tuổi Dậu cần thận trọng

Tử vi vòng quay công nghệ ngày 17/11/2026: Tuổi Tỵ tài lộc khởi sắc, tuổi Dậu cần thận trọng

Những bí ẩn của khoa học đời sống luôn mang đến nhiều điều thú vị và là chủ đề được đông đảo độc giả quan tâm. Tử vi vòng quay công nghệ ngày 17/11/2026 sẽ cùng khám phá vận trình của 12 con giáp trên các phương diện công danh, tiền bạc, tình duyên và sức khỏe, qua đó mang đến những góc nhìn tham khảo về cơ hội cũng như thử thách trong ngày mới.
Xe máy điện VinFast Rasad và Sadie lộ diện

Xe máy điện VinFast Rasad và Sadie lộ diện

Ứng dụng động cơ đặt giữa công suất tới 7.100W và phanh ABS, hai mẫu xe máy điện mới của VinFast định hình chuẩn mực vận hành hiện đại cho phân khúc cao cấp.
Dòng chảy công nghệ từ phiến silicon đến chiếc smartphone

Dòng chảy công nghệ từ phiến silicon đến chiếc smartphone

Một cú chạm mở camera, một khuôn hình hiện lên sắc nét giữa chiều ngược sáng. Chiếc điện thoại thông minh (smartphone) đáp lại nhanh đến mức người dùng hiếm khi nghĩ về hành trình tạo ra nó. Phía sau sự giản tiện ấy là những nhà máy phải kiểm soát vật chất ở kích thước cực nhỏ, những dây chuyền lắp ráp liên tục và các phép đo không được phép dễ dãi.
Sau tự động hóa, các nhà máy hướng tới sản xuất thông minh hơn

Sau tự động hóa, các nhà máy hướng tới sản xuất thông minh hơn

Sau nhiều năm tập trung tự động hóa từng công đoạn, ngành sản xuất đang chuyển sang giai đoạn mới, trong đó trí tuệ nhân tạo (AI), dữ liệu và tri thức kỹ thuật được kết nối để hỗ trợ ra quyết định, tối ưu quy trình và nâng cao hiệu quả vận hành trên toàn nhà máy.
Nhận định phiên giao dịch ngày 16/11: Giải ngân thăm dò khi chỉ số lùi về vùng hỗ trợ 1.700-1.720 điểm

Nhận định phiên giao dịch ngày 16/11: Giải ngân thăm dò khi chỉ số lùi về vùng hỗ trợ 1.700-1.720 điểm

VN-Index được dự báo tiếp tục rung lắc trong biên độ 1.720-1.780 điểm trong ngắn hạn, khi dòng tiền vẫn thận trọng và chưa có sự lan tỏa rõ rệt. Nhà đầu tư được khuyến nghị hạn chế mua đuổi, có thể cân nhắc giải ngân thăm dò khi chỉ số lùi về vùng hỗ trợ 1.700-1.720 điểm, đồng thời chú ý quản trị rủi ro nếu VN-Index đóng cửa dưới mốc 1.700 điểm.
master