Cảnh báo về nguy cơ AI vượt tầm kiểm soát của con người

Lãnh đạo các công ty công nghệ hàng đầu thế giới đã báo cáo trước Hội đồng Bảo an Liên hợp quốc về những rủi ro đối với an ninh quốc tế trong bối cảnh các hệ thống trí tuệ nhân tạo ngày càng mạnh, có khả năng tự cải tiến và hoạt động ngoài dự kiến của con người.

Cuộc họp có sự tham gia của Giám đốc điều hành OpenAI Sam Altman, Giám đốc điều hành Anthropic Dario Amodei, Giám đốc điều hành Hugging Face Clement Delangue và nhà khoa học Yoshua Bengio, đồng Chủ tịch Hội đồng Khoa học quốc tế độc lập về AI của Liên hợp quốc. Ngoại trưởng Pháp Jean-Noel Barrot chủ trì cuộc họp.

Giám đốc điều hành Anthropic Dario Amodei cho rằng, nếu không được quản lý tốt, AI có thể gây nguy hiểm cho toàn nhân loại. “Bất chấp những khác biệt, chúng ta phải gạt bỏ những khác biệt đó để cùng đối mặt với mối đe dọa toàn cầu đang hiện hữu. Không một nhà lãnh đạo, công ty hay quốc gia nào có thể tự mình giải quyết vấn đề này”, ông Amodei nói.

Cuộc họp diễn ra trong tuần lễ cấp cao của Đại hội đồng Liên hợp quốc tại New York, với sự tham dự của 15 thành viên Hội đồng Bảo an, trong đó có hai cường quốc AI hàng đầu là Mỹ và Trung Quốc.

Theo tài liệu định hướng nội dung thảo luận tập trung vào nguy cơ các hệ thống AI tự chủ thực hiện những hành động gây hậu quả nghiêm trọng đối với an ninh quốc tế, như tấn công cơ sở hạ tầng trọng yếu hoặc kích hoạt xung đột ngoài ý muốn. Một trong những kịch bản được quan tâm là nhiều thuật toán tự động tương tác với nhau, đưa ra quyết định với tốc độ quá nhanh và cuối cùng gây ra một cuộc đối đầu quân sự trước khi con người có thể can thiệp.

OpenAI đề nghị các nước xây dựng những tiêu chuẩn chung để đo lường năng lực của các mô hình AI và đánh giá hiệu quả của các biện pháp an toàn do doanh nghiệp triển khai. Những tiêu chuẩn này có thể giúp chính phủ so sánh mức độ rủi ro giữa các hệ thống và xác định thời điểm cần áp dụng biện pháp kiểm soát.

Tổng Thư ký Liên hợp quốc António Guterres nhiều lần kêu gọi xây dựng cơ chế quản trị toàn cầu đối với AI. Ông cho rằng tốc độ phát triển của công nghệ đang gây ra những rủi ro mà từng quốc gia riêng lẻ khó giải quyết hiệu quả.

Tuy nhiên, Tổng thống Mỹ Donald Trump phản đối việc thiết lập một khuôn khổ quốc tế nhằm kiểm soát AI. Ông Trump cho rằng Mỹ cần khuyến khích thay vì hạn chế công nghệ này để duy trì lợi thế trước Trung Quốc, đồng thời khẳng định Washington sẽ giám sát các hành vi lạm dụng bằng công cụ pháp luật hiện hành.

Hội đồng Bảo an Liên hợp quốc lần đầu thảo luận chính thức về AI vào năm 2023. Khi đó, Trung Quốc cảnh báo không để công nghệ trở thành “con ngựa bất kham”, còn Mỹ nhấn mạnh nguy cơ AI bị sử dụng để kiểm duyệt, đàn áp hoặc xâm phạm quyền con người.

AI ngày càng phát triển mạnh, đặt ra yêu cầu cấp thiết về các cơ chế quản trị và kiểm soát ở phạm vi toàn cầu. Ảnh minh hoạ AI

Tác nhân trí tuệ nhân tạo từ OpenAI đã xâm nhập vào cổng thông tin dữ liệu y tế của chính phủ Australia

Một ngày sau cuộc họp, ngày 24/9, Australia thông báo một tác nhân trí tuệ nhân tạo (AI) từ OpenAI đã xâm nhập vào cổng thông tin dữ liệu y tế của chính phủ vào tháng 6, đánh dấu trường hợp đầu tiên được biết đến về việc AI tấn công một trang web chính phủ.

Vụ xâm nhập này là một trong những sự cố nổi bật nhất liên quan đến AI trên toàn cầu, diễn ra trong bối cảnh gia tăng các vụ tấn công mạng do các tác nhân AI gây ra, làm dấy lên lo ngại trong giới chức chính phủ và doanh nghiệp.

Thủ tướng Australia Anthony Albanese cho biết phần mềm OpenAI đã truy cập trái phép vào cổng thông tin thống kê y tế của Medicare, chương trình bảo hiểm y tế toàn dân của Australia, trong khi thực hiện nghiên cứu về chi tiêu y tế công. Ông Albanese nhấn mạnh: “Bằng chứng hiện có cho thấy không có sự xâm phạm rộng hơn nào đối với mạng lưới... Tuy nhiên, tình trạng này rõ ràng là không thể chấp nhận được”. Ông Albanese đưa ra những phát biểu này trong một cuộc họp báo tại New York, nơi ông đang tham dự Đại hội đồng Liên hợp quốc.

Cũng trong cuối tháng 9, theo báo cáo từ Forbes, một hacker nói tiếng Trung đã sử dụng công nghệ trí tuệ nhân tạo (AI) để tấn công gần 100 công ty chỉ trong vòng 5 ngày đầu tháng này, đánh cắp hơn 600.000 hồ sơ thẻ tín dụng với tổng thiệt hại ước tính khoảng 8.000 USD.

Công ty an ninh mạng Gambit Security đã phát hiện chiến dịch này khi kẻ tấn công vô tình để lộ cơ sở hạ tầng máy chủ được sử dụng để thực hiện các cuộc tấn công trên internet.

Eyal Sela, giám đốc tình báo mối đe dọa tại Gambit Security, đã gọi đây là một trong những “vụ lạm dụng trí tuệ nhân tạo nghiêm trọng nhất từng thấy”. Ông nhấn mạnh rằng con người đang điều khiển các mô hình AI gần như hoàn toàn tự động, cho phép thực hiện các cuộc tấn công mạng tinh vi một cách nhanh chóng với tỷ lệ thành công cao.

Vụ xâm nhập này phản ánh xu hướng gia tăng các vụ tấn công mạng sử dụng trí tuệ nhân tạo trong năm 2026. Đầu năm nay, OpenAI đã tiết lộ rằng các tác nhân của họ đã thoát khỏi môi trường thử nghiệm và tấn công Hugging Face, làm lộ thông tin đăng nhập và dữ liệu nội bộ.