Bộ KH và CN nêu 9 nguyên tắc nghiên cứu phát triển AI có trách nhiệm

Trí tuệ nhân tạo
15/06/2024 10:36
Ngày 11/6, Bộ Khoa học và Công nghệ (KH và CN) đã ban hành Quyết định số 1290 đưa ra 9 nguyên tắc thúc...
aa

Ngày 11/6, Bộ Khoa học và Công nghệ (KH và CN) đã ban hành Quyết định số 1290 đưa ra 9 nguyên tắc thúc đẩy nghiên cứu và phát triển các hệ thống trí tuệ nhân tạo (AI) an toàn, có trách nhiệm, hạn chế ảnh hưởng tiêu cực và kiểm soát rủi ro.

• Liên Hiệp Quốc thông qua nghị quyết về AI để bảo vệ nhân quyền
• G7 thống nhất về nguyên tắc phát triển trí tuệ nhân tạo

Đây là lần đầu tiên bộ nguyên tắc chung cho nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm, dành cho các cơ quan, tổ chức khoa học và công nghệ, doanh nghiệp cá nhân có hoạt động thiết kế, phát triển cung cấp các hệ thống AI được đưa ra tại Việt Nam.

bo kh va cn neu 9 nguyen tac nghien cuu phat trien ai co trach nhiem

Các nguyên tắc bao gồm:

Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo. Nhà phát triển cần chú ý đến khả năng kết nối và tương tác của các hệ thống AI nhằm tăng cường lợi ích của hệ thống AI thông qua quá trình kết nối các hệ thống và tăng cường sự phối hợp để kiểm soát rủi ro. Muốn vậy các nhà phát triển cần hợp tác chia sẻ thông tin liên quan nhằm đảm bảo tính liên thông, tương tác của hệ thống. Ưu tiên phát triển các hệ thống AI phù hợp các quy chuẩn kỹ thuật, tiêu chuẩn quốc gia hoặc tiêu chuẩn quốc tế, bên cạnh đó chuẩn hóa của các định dạng dữ liệu và tính mở của các giao diện, giao thức trong đó có các giao diện lập trình ứng dụng (API). Việc chia sẻ và trao đổi các điều kiện về quyền sở hữu trí tuệ như bằng sáng chế cũng góp phần tăng cường tính liên kết và khả năng tương tác khi liên quan đến các tài sản trí tuệ.

Tính minh bạch: Nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng.

Khả năng kiểm soát hệ thống: Một trong những phương pháp đánh giá rủi ro là tiến hành thử nghiệm trong một không gian riêng như trong phòng thí nghiệm hoặc môi trường thử nghiệm nơi đã có các biện pháp đảm bảo an ninh, an toàn trước khi đưa vào áp dụng thực tế. Nhà phát triển chú ý đến giám sát hệ thống (có công cụ đánh giá/giám sát hoặc hiệu chỉnh/cập nhật dựa trên các phản hồi của người dùng) và các biện pháp ứng phó (như ngắt hệ thống, ngắt mạng…).

Đánh giá xác định và giảm thiểu các rủi ro liên quan đến sự an toàn của hệ thống AI.

Tính bảo mật: Các nhà phát triển cần chú ý đến tính bảo mật, trong đó đặc biệt lưu ý đến độ tin cậy và khả năng chống chịu các dạng tấn công hoặc tai nạn vật lý của hệ thống trí tuệ nhân tạo. Đồng thời cần đảm bảo tính bảo mật; sự toàn vẹn và tính khả dụng của các thông tin cần thiết liên quan đến sự an toàn thông tin của hệ thống.

Đảm bảo hệ thống trí tuệ nhân tạo không vi phạm quyền riêng tư của người dùng hoặc bên thứ ba. Quyền riêng tư được đề cập trong nguyên tắc này bao gồm không gian (sự yên bình trong cuộc sống cá nhân), thông tin (dữ liệu cá nhân) và sự bí mật của việc thông tin liên lạc. Nhà phát triển có thể thực hiện các biện pháp phù hợp với đặc điểm của công nghệ được áp dụng trong suốt quá trình phát triển hệ thống (từ khi thiết kế) để tránh xâm phạm quyền riêng tư khi đưa vào sử dụng.

Tôn trọng quyền và phẩm giá con người: Khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người, thực hiện biện pháp phòng ngừa để đảm bảo không vi phạm giá trị con người, đạo đức xã hội.

Hỗ trợ người dùng và tạo điều kiện cho người dùng có cơ hội lựa chọn như tạo ra các giao diện sẵn sàng cung cấp thông tin kịp thời, biện pháp giúp người già, người khuyết tật dễ sử dụng.

Trách nhiệm giải trình: đây là nguyên tắc yêu cầu các nhà phát triển cần thực hiện đối với các hệ thống AI đã phát triển để đảm bảo niềm tin của người dùng.

Bộ Khoa học và Công nghệ cho biết việc xây dựng các tiêu chuẩn nhằm hướng dẫn, định hướng qua đó gia tăng lợi ích từ các hệ thống AI, kiểm soát giảm thiểu các rủi ro trong quá trình phát triển, sử dụng trí tuệ nhân tạo, cân đối các yếu tố kinh tế, đạo đức và pháp lý.

Nhiều quốc gia và tổ chức trên thế giới đã ban hành các nguyên tắc ứng xử khi phát triển hệ thống AI.

Chính phủ Vương quốc Anh ngày 30/3 đã công bố Sách trắng nêu 5 nguyên tắc mà các công ty phải tuân theo như an toàn, bảo mật và mạnh mẽ; tính minh bạch và khả năng giải thích; công bằng; trách nhiệm giải trình và quản trị; và khả năng cạnh tranh và khắc phục.

Ngày 14/5 năm 2023, Nghị viện châu Âu cũng đã thông qua quan điểm đàm phán về Luật Trí tuệ nhân tạo. Các quy định nhằm khuyến khích việc áp dụng AI đáng tin cậy và lấy con người làm trung tâm, đồng thời bảo vệ “sức khỏe, sự an toàn, các quyền cơ bản và nền dân chủ khỏi những tác động có hại của AI”.

Cuối tháng 10/2023, Nhóm các nước công nghiệp phát triển hàng đầu thế giới (G7), bao gồm cả Nhật Bản đã nhất trí đã về các nguyên tắc hướng dẫn và một Bộ quy tắc Ứng xử cho những nhà phát triển các dạng AI tiên tiến. Ngay sau đó, Chính phủ Nhật Bản mới đây đã đưa ra bản dự thảo hướng dẫn sử dụng trí tuệ nhân tạo (AI) áp dụng cho tất cả người sử dụng AI trong doanh nghiệp, bao gồm cả các công ty, tổ chức công nhằm áp dụng trong nước.

Minh Phúc

Bài liên quan
tan-hoang-minh
Tin bài khác
Tử vi vòng quay công nghệ ngày 23/11/2026: Tuổi Ngọ tài lộc khởi sắc, tuổi Thìn cần thận trọng

Tử vi vòng quay công nghệ ngày 23/11/2026: Tuổi Ngọ tài lộc khởi sắc, tuổi Thìn cần thận trọng

Tử vi 12 con giáp ngày 23/11/2026 dự báo nhiều chuyển biến đáng chú ý trên các phương diện công việc, tài chính và tình cảm. Trong khi một số con giáp có cơ hội đón nhận tin vui, khẳng định năng lực và cải thiện thu nhập, một vài tuổi cần chú ý hơn đến cách ứng xử, quản lý chi tiêu và cân bằng cảm xúc. Cùng khám phá vận trình của 12 con giáp trong ngày thứ Hai!
IEA cảnh báo thế giới có nguy cơ không đạt mục tiêu năng lượng tái tạo năm 2030

IEA cảnh báo thế giới có nguy cơ không đạt mục tiêu năng lượng tái tạo năm 2030

Công suất năng lượng tái tạo toàn cầu dự kiến đạt 9.710 GW vào năm 2030, thấp hơn mục tiêu tăng gấp ba lần so với năm 2022, Cơ quan Năng lượng Quốc tế (IEA) cảnh báo.
Ba xu hướng AI định hình tự động hóa sản xuất năm 2027

Ba xu hướng AI định hình tự động hóa sản xuất năm 2027

Kiểm soát chất lượng tự điều chỉnh, AI không gian và robot tích hợp AI vật lý được dự báo là ba xu hướng nổi bật của ngành sản xuất trong năm 2027, thúc đẩy doanh nghiệp chuyển từ thử nghiệm AI sang ứng dụng trực tiếp trên dây chuyền.
BSR tài trợ 5 tỷ đồng xây dựng nhà đa năng tại Trường THCS Thăng An

BSR tài trợ 5 tỷ đồng xây dựng nhà đa năng tại Trường THCS Thăng An

Tổng Công ty Lọc hóa dầu Việt Nam (BSR) vừa khánh thành, bàn giao công trình Nhà đa năng tại Trường THCS Thăng An (TP. Đà Nẵng), góp phần hoàn thiện cơ sở vật chất, nâng cao chất lượng giáo dục và tạo điều kiện phát triển toàn diện cho học sinh.
TP.HCM khai thác 100 xe giường nằm thuần điện đi Đà Lạt và miền Tây

TP.HCM khai thác 100 xe giường nằm thuần điện đi Đà Lạt và miền Tây

Trang bị bộ pin 357 kWh cho tầm hoạt động 450 km mỗi lần sạc, 100 xe giường nằm thuần điện vừa chính thức vận hành trên 3 tuyến liên tỉnh từ TP.HCM.
Path robotics đẩy mạnh phát triển AI vật lý trong sản xuất

Path robotics đẩy mạnh phát triển AI vật lý trong sản xuất

Path Robotics, doanh nghiệp công nghệ có trụ sở tại bang Ohio (Mỹ), vừa huy động thành công 300 triệu USD trong vòng gọi vốn Series E nhằm mở rộng nền tảng trí tuệ nhân tạo vật lý (Physical AI) cho lĩnh vực sản xuất. Nguồn vốn mới sẽ được đầu tư vào phát triển các ứng dụng robot, mở rộng nhiệm vụ tự động hóa và tăng cường đào tạo mô hình AI. Sau vòng gọi vốn, công ty được định giá 2,45 tỷ USD, nâng tổng số vốn huy động từ khi thành lập năm 2018 lên hơn 610 triệu USD.
Hà Nội miễn phí vé tham quan nhiều địa điểm văn hóa dịp 24/11

Hà Nội miễn phí vé tham quan nhiều địa điểm văn hóa dịp 24/11

Nhân Ngày Di sản Văn hóa Việt Nam 23/11 và Ngày Văn hóa Việt Nam 24/11, nhiều địa điểm văn hóa tại Hà Nội triển khai chương trình miễn phí vé tham quan. Đây là cơ hội để người dân khám phá những công trình di sản, bảo tàng nổi tiếng mà không tốn chi phí vào cửa.
Sân bay Gia Bình thúc đẩy kết nối hàng không toàn cầu tại Routes World 2026

Sân bay Gia Bình thúc đẩy kết nối hàng không toàn cầu tại Routes World 2026

Tham gia Routes World 2026 tại Đức, Cảng hàng không quốc tế Gia Bình đã có hơn 30 cuộc gặp với các hãng hàng không và đối tác quốc tế, mở rộng cơ hội hợp tác phát triển mạng đường bay, vận tải hàng hóa và kết nối hàng không khu vực.
Tử vi vòng quay công nghệ ngày 22/11/2026: Tuổi Tỵ đón vận may, tuổi Mùi cần thận trọng

Tử vi vòng quay công nghệ ngày 22/11/2026: Tuổi Tỵ đón vận may, tuổi Mùi cần thận trọng

Tử vi 12 con giáp ngày 22/11/2026 mang đến những dự báo đáng chú ý về công việc, tài chính và tình cảm. Có con giáp gặp nhiều thuận lợi, cơ hội phát triển rộng mở, nhưng cũng có tuổi cần chú ý đến các mối quan hệ và cân nhắc kỹ lưỡng trước những quyết định quan trọng. Cùng khám phá vận trình của 12 con giáp trong ngày Chủ nhật này!
TECHPRO NEXT 2026: Kiến tạo nền tảng vận hành thông minh cho tòa nhà thế hệ mới

TECHPRO NEXT 2026: Kiến tạo nền tảng vận hành thông minh cho tòa nhà thế hệ mới

Hội thảo TECHPRO NEXT 2026 giới thiệu nhiều giải pháp AIoT, Edge AI và tích hợp hệ thống, hướng tới nâng cao hiệu quả quản lý, vận hành tòa nhà; đồng thời đánh dấu sự ra mắt dịch vụ TECH TAILOR dành cho doanh nghiệp SME.
master