Nhà khoa học từng đoạt giải Nobel vật lý cảnh báo về thảm hoạ nếu không kiểm soát AI

Trí tuệ nhân tạo
11/10/2024 14:32
Ngày 8/10, phát biểu tại một cuộc hop, John Hopfield là một nhà khoa học người Mỹ từng đoạt giải Nobel vật lý năm 2024 cho công trình tiên phong về trí tuệ nhân tạo (AI) cho biết, ông thấy những tiến bộ gần đây trong công nghệ " rất đáng lo ngại và cảnh báo về thảm họa có thể xảy ra nếu không được kiểm soát.
aa
Nhà khoa học từng đoạt giải Nobel vật lý cảnh báo về thảm hoạ nếu không kiểm soát AI
Cần phải có sự hiểu biết để kiểm soát AI như một điều kiện thiết yếu trong lĩnh vực công nghệ

Phát biểu tại một cuộc họp tại Trường đại học New Jersey, John Hopfield nói rằng trong suốt cuộc đời mình, ông đã chứng kiến sự phát triển của hai lĩnh vực công nghệ mạnh mẽ nhưng có khả năng nguy hiểm nếu không được kiểm soát, đó là: Kỹ thuật sinh học và Vật lý hạt nhân.

"Là một nhà vật lý, tôi rất lo lắng bởi một cái gì đó không kiểm soát được, một cái gì đó mà tôi không đủ hiểu rõ những giới hạn có thể thúc đẩy công nghệ đó là gì. Đó là câu hỏi đang đặt ra với AI, hệ thống AI hiện đại dường như là 'tuyệt tác tuyệt đối' nhưng chúng ta vẫn thiếu hiểu biết về cách thức hoạt động của chúng, điều mà tôi cho rằng 'rất, rất đáng sợ'." John Hopfield cho biết.

Đó là lý do tại sao bản thân tôi và Geoffrey Hinton (người đồng chiến thắng giải Nobel vật lý năm 2024) sẽ ủng hộ mạnh mẽ việc kiểm soát AI như một điều kiện thiết yếu cho lĩnh vực này.

Nhà khoa học từng đoạt giải Nobel vật lý cảnh báo về thảm hoạ nếu không kiểm soát AI
John Hopfield và Geoffrey Hinton được trao giải Nobel Vật lý năm 2024 về Các mạng lưới thần kinh nhân tạo lưu trữ và truy xuất ký ức

Mô hình nhận giải Nobel của ông đã được cải tiến bởi Hinton người Canada gốc Anh (được biết đến như cha đỡ đầu của trí tuệ nhân tạo), người có "cỗ máy Boltzmann" giới thiệu yếu tố ngẫu nhiên mở đường cho các ứng dụng AI hiện đại như trình tạo hình ảnh.

"Nếu bạn nhìn xung quanh, những thứ thông minh hơn được điều khiển bởi những thứ kém thông minh hơn, điều này tạo ra nghi vấn liệu khi AI trở nên thông minh hơn chúng ta nó sẽ chiếm quyền kiểm soát". Geoffrey Hinton trao đổi với phóng viên.

Với sự gia tăng nhanh chóng của công nghệ AI và cuộc đua khốc liệt mà nó đã vô tình tạo ra giữa các công ty công nghệ, đã gặp phải những chỉ trích vì AI phát triển nhanh hơn giới chuyên gia. "Tôi lo lắng về bất cứ điều gì có thể xảy ra: AI nhanh hơn con người hay con người nhanh hơn AI? Ta có thể yên tâm với điều đó không? Chúng ta có thể kiểm soát AI không? Tôi không biết, tôi lo lắng về điều đó" - Geoffrey Hinton cho biết thêm. "Đó là lý do tại sao chúng tôi rất cần nghiên cứu thêm".

Nhà khoa học từng đoạt giải Nobel vật lý cảnh báo về thảm hoạ nếu không kiểm soát AI
AI nhanh hơn con người hay con người nhanh hơn AI? Geoffrey Hinton lo lắng về điều đó

"Tôi ủng hộ rằng các nhà nghiên cứu trẻ giỏi nhất của chúng ta hoặc nhiều người trong số họ nên làm việc về an toàn của AI, chính phủ các nước cũng nên yêu cầu các công ty lớn cung cấp các phương án kiểm soát an toàn khi áp dụng công nghệ AI".

Theo CGTN

trien-lam-quoc-te
Tin bài khác
PGS.TS Ngô Trí Long: Công nghệ là đòn bẩy cho mục tiêu phát triển giao thông xanh bền vững

PGS.TS Ngô Trí Long: Công nghệ là đòn bẩy cho mục tiêu phát triển giao thông xanh bền vững

Theo chuyên gia kinh tế, PGS.TS Ngô Trí Long, trong quá trình phát triển giao thông xanh, công nghệ giữ vai trò trung tâm, là đòn bẩy then chốt để hiện thực hóa mục tiêu phát triển bền vững, giảm phát thải khí nhà kính, tiết kiệm năng lượng và bảo vệ môi trường.
Nhận định phiên giao dịch ngày 21/4: Chờ kiểm định vùng cản, ưu tiên bảo toàn lợi nhuận

Nhận định phiên giao dịch ngày 21/4: Chờ kiểm định vùng cản, ưu tiên bảo toàn lợi nhuận

Sau nhịp hồi phục và tiến sát vùng 1.220 điểm trong phiên 18/4, thị trường đang bước vào giai đoạn thử thách khi tiếp cận vùng kháng cự mạnh 1.235 – 1.255 điểm. Trong phiên giao dịch tới, VN Index có thể tiếp tục rung lắc và đối diện với áp lực chốt lời, nhất là khi tín hiệu kỹ thuật chưa đủ mạnh để xác nhận xu hướng tăng bền vững.
BIDV ghi dấu ấn tại Sao Khuê 2025 với 7 sản phẩm công nghệ được vinh danh

BIDV ghi dấu ấn tại Sao Khuê 2025 với 7 sản phẩm công nghệ được vinh danh

Ngày 19/04/2025 tại Hà Nội, trong khuôn khổ Lễ công bố và vinh danh giải thưởng Sao Khuê 2025 do Hiệp hội Phần mềm và Dịch vụ công nghệ thông tin Việt Nam (VINASA) tổ chức, Ngân hàng TMCP Đầu tư và Phát triển Việt Nam (BIDV) đã được vinh danh với 07 sản phẩm và giải pháp công nghệ thông tin xuất sắc.
Tử vi vòng quay công nghệ ngày 21/4/2025: Tuổi Tuất tiêu cực về tình cảm, tuổi Sửu vui vẻ

Tử vi vòng quay công nghệ ngày 21/4/2025: Tuổi Tuất tiêu cực về tình cảm, tuổi Sửu vui vẻ

Những bí ẩn của khoa học đời sống là "món ăn" tinh thần không thể thiếu trong cuộc sống của con người. Tử vi vòng quay công nghệ xem tử vi 12 con giáp ngày 21/4/2025 cho tất cả các tuổi nhằm dự đoán vận hạn về công danh, tiền bạc, tình duyên, sức khỏe...
Phát triển hệ thống giao thông thông minh tại Việt Nam: Kinh nghiệm và xu hướng

Phát triển hệ thống giao thông thông minh tại Việt Nam: Kinh nghiệm và xu hướng

Hệ thống giao thông thông minh (ITS), một cấu phần quan trọng của đô thị thông minh, đang trở thành chủ đề được quan tâm của xã hội hiện nay. Khái niệm ITS tuy không còn xa lạ, nhưng Việt Nam còn cần bước tiến xa mới đạt được mức độ hoàn chỉnh và đáp ứng nhu cầu thực tế. Bài báo tổng kết kinh nghiệm xây dựng ITS trên thế giới, phân tích tình hình xây dựng ở Việt Nam trong thời gian qua và kiến nghị những bước đi cần thiết.
Show diễn "Việt phục hành" - Hành trình tự hào đậm đà bản sắc dân tộc

Show diễn "Việt phục hành" - Hành trình tự hào đậm đà bản sắc dân tộc

Chiều ngày 19/4 tại Ocean Park 3, chương trình “Việt Phục Hành” đã diễn ra sôi nổi và xúc động, đánh dấu một sự kiện văn hóa – nghệ thuật đặc sắc, hướng đến kỷ niệm 50 năm Giải phóng miền Nam, thống nhất đất nước.
Phenikaa chính thức trở thành đại học tư thục thứ 2 trên cả nước

Phenikaa chính thức trở thành đại học tư thục thứ 2 trên cả nước

Phenikaa chính thức trở thành đại học tư thục thứ 2 sau Đại học Duy Tân và là đại học thứ 10 ở Việt Nam, theo Quyết định của Chính phủ.
Phát triển giao thông xanh để thúc đẩy nền kinh tế xanh bền vững

Phát triển giao thông xanh để thúc đẩy nền kinh tế xanh bền vững

Chương trình phát triển GTX đã được cụ thể hóa thông qua Quyết định số 876/QĐ-TTg ngày 22/7/2022 của Thủ tướng Chính phủ, phê duyệt Chương trình hành động về chuyển đổi năng lượng xanh, giảm phát thải khí carbon và khí metan trong ngành GTVT.
Quản lý giao thông thông minh – xu hướng tất yếu

Quản lý giao thông thông minh – xu hướng tất yếu

Trong bối cảnh đô thị hóa diễn ra nhanh chóng, áp lực lên hệ thống giao thông ngày càng gia tăng, kéo theo những hệ lụy nghiêm trọng như ùn tắc, tai nạn và ô nhiễm môi trường. Để giải quyết bài toán này, nhiều quốc gia đã và đang áp dụng các hệ thống quản lý giao thông thông minh (ITS - Intelligent Transportation Systems), tích hợp các công nghệ tiên tiến như trí tuệ nhân tạo (AI), robot và dữ liệu lớn (Big Data). Những đổi mới này không chỉ giúp nâng cao hiệu quả giao thông mà còn hướng tới một nền giao thông bền vững và an toàn hơn.
Trường Đại học Điện lực tổ chức Ngày hội việc làm 2025: Kết nối cơ hội – Định hướng tương lai

Trường Đại học Điện lực tổ chức Ngày hội việc làm 2025: Kết nối cơ hội – Định hướng tương lai

Ngày hội việc làm 2025 của Trường Đại học Điện lực (EPU) không chỉ là cầu nối giữa sinh viên và doanh nghiệp, mà còn khẳng định vai trò tiên phong của nhà trường trong đổi mới sáng tạo và hỗ trợ khởi nghiệp quốc gia.
siement
Quảng cáo
moxa