Bộ KH và CN nêu 9 nguyên tắc nghiên cứu phát triển AI có trách nhiệm

Trí tuệ nhân tạo
15/06/2024 10:36
Ngày 11/6, Bộ Khoa học và Công nghệ (KH và CN) đã ban hành Quyết định số 1290 đưa ra 9 nguyên tắc thúc...
aa

Ngày 11/6, Bộ Khoa học và Công nghệ (KH và CN) đã ban hành Quyết định số 1290 đưa ra 9 nguyên tắc thúc đẩy nghiên cứu và phát triển các hệ thống trí tuệ nhân tạo (AI) an toàn, có trách nhiệm, hạn chế ảnh hưởng tiêu cực và kiểm soát rủi ro.

• Liên Hiệp Quốc thông qua nghị quyết về AI để bảo vệ nhân quyền
• G7 thống nhất về nguyên tắc phát triển trí tuệ nhân tạo

Đây là lần đầu tiên bộ nguyên tắc chung cho nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm, dành cho các cơ quan, tổ chức khoa học và công nghệ, doanh nghiệp cá nhân có hoạt động thiết kế, phát triển cung cấp các hệ thống AI được đưa ra tại Việt Nam.

bo kh va cn neu 9 nguyen tac nghien cuu phat trien ai co trach nhiem

Các nguyên tắc bao gồm:

Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo. Nhà phát triển cần chú ý đến khả năng kết nối và tương tác của các hệ thống AI nhằm tăng cường lợi ích của hệ thống AI thông qua quá trình kết nối các hệ thống và tăng cường sự phối hợp để kiểm soát rủi ro. Muốn vậy các nhà phát triển cần hợp tác chia sẻ thông tin liên quan nhằm đảm bảo tính liên thông, tương tác của hệ thống. Ưu tiên phát triển các hệ thống AI phù hợp các quy chuẩn kỹ thuật, tiêu chuẩn quốc gia hoặc tiêu chuẩn quốc tế, bên cạnh đó chuẩn hóa của các định dạng dữ liệu và tính mở của các giao diện, giao thức trong đó có các giao diện lập trình ứng dụng (API). Việc chia sẻ và trao đổi các điều kiện về quyền sở hữu trí tuệ như bằng sáng chế cũng góp phần tăng cường tính liên kết và khả năng tương tác khi liên quan đến các tài sản trí tuệ.

Tính minh bạch: Nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng.

Khả năng kiểm soát hệ thống: Một trong những phương pháp đánh giá rủi ro là tiến hành thử nghiệm trong một không gian riêng như trong phòng thí nghiệm hoặc môi trường thử nghiệm nơi đã có các biện pháp đảm bảo an ninh, an toàn trước khi đưa vào áp dụng thực tế. Nhà phát triển chú ý đến giám sát hệ thống (có công cụ đánh giá/giám sát hoặc hiệu chỉnh/cập nhật dựa trên các phản hồi của người dùng) và các biện pháp ứng phó (như ngắt hệ thống, ngắt mạng…).

Đánh giá xác định và giảm thiểu các rủi ro liên quan đến sự an toàn của hệ thống AI.

Tính bảo mật: Các nhà phát triển cần chú ý đến tính bảo mật, trong đó đặc biệt lưu ý đến độ tin cậy và khả năng chống chịu các dạng tấn công hoặc tai nạn vật lý của hệ thống trí tuệ nhân tạo. Đồng thời cần đảm bảo tính bảo mật; sự toàn vẹn và tính khả dụng của các thông tin cần thiết liên quan đến sự an toàn thông tin của hệ thống.

Đảm bảo hệ thống trí tuệ nhân tạo không vi phạm quyền riêng tư của người dùng hoặc bên thứ ba. Quyền riêng tư được đề cập trong nguyên tắc này bao gồm không gian (sự yên bình trong cuộc sống cá nhân), thông tin (dữ liệu cá nhân) và sự bí mật của việc thông tin liên lạc. Nhà phát triển có thể thực hiện các biện pháp phù hợp với đặc điểm của công nghệ được áp dụng trong suốt quá trình phát triển hệ thống (từ khi thiết kế) để tránh xâm phạm quyền riêng tư khi đưa vào sử dụng.

Tôn trọng quyền và phẩm giá con người: Khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người, thực hiện biện pháp phòng ngừa để đảm bảo không vi phạm giá trị con người, đạo đức xã hội.

Hỗ trợ người dùng và tạo điều kiện cho người dùng có cơ hội lựa chọn như tạo ra các giao diện sẵn sàng cung cấp thông tin kịp thời, biện pháp giúp người già, người khuyết tật dễ sử dụng.

Trách nhiệm giải trình: đây là nguyên tắc yêu cầu các nhà phát triển cần thực hiện đối với các hệ thống AI đã phát triển để đảm bảo niềm tin của người dùng.

Bộ Khoa học và Công nghệ cho biết việc xây dựng các tiêu chuẩn nhằm hướng dẫn, định hướng qua đó gia tăng lợi ích từ các hệ thống AI, kiểm soát giảm thiểu các rủi ro trong quá trình phát triển, sử dụng trí tuệ nhân tạo, cân đối các yếu tố kinh tế, đạo đức và pháp lý.

Nhiều quốc gia và tổ chức trên thế giới đã ban hành các nguyên tắc ứng xử khi phát triển hệ thống AI.

Chính phủ Vương quốc Anh ngày 30/3 đã công bố Sách trắng nêu 5 nguyên tắc mà các công ty phải tuân theo như an toàn, bảo mật và mạnh mẽ; tính minh bạch và khả năng giải thích; công bằng; trách nhiệm giải trình và quản trị; và khả năng cạnh tranh và khắc phục.

Ngày 14/5 năm 2023, Nghị viện châu Âu cũng đã thông qua quan điểm đàm phán về Luật Trí tuệ nhân tạo. Các quy định nhằm khuyến khích việc áp dụng AI đáng tin cậy và lấy con người làm trung tâm, đồng thời bảo vệ “sức khỏe, sự an toàn, các quyền cơ bản và nền dân chủ khỏi những tác động có hại của AI”.

Cuối tháng 10/2023, Nhóm các nước công nghiệp phát triển hàng đầu thế giới (G7), bao gồm cả Nhật Bản đã nhất trí đã về các nguyên tắc hướng dẫn và một Bộ quy tắc Ứng xử cho những nhà phát triển các dạng AI tiên tiến. Ngay sau đó, Chính phủ Nhật Bản mới đây đã đưa ra bản dự thảo hướng dẫn sử dụng trí tuệ nhân tạo (AI) áp dụng cho tất cả người sử dụng AI trong doanh nghiệp, bao gồm cả các công ty, tổ chức công nhằm áp dụng trong nước.

Minh Phúc

Bài liên quan
tan-hoang-minh
Tin bài khác
DHL thử nghiệm robot AI thích ứng trong vận hành kho hàng

DHL thử nghiệm robot AI thích ứng trong vận hành kho hàng

DHL Supply Chain đang thử nghiệm robot tích hợp trí tuệ nhân tạo (AI) có khả năng thích ứng và đưa công nghệ điều phối AI vào vận hành thực tế tại các kho hàng, nhằm kết hợp robot, AI và người lao động để nâng cao hiệu quả quản lý logistics.
Thị trường chứng khoán ngày 19/11: VN-Index mất mốc 1.700 điểm, áp lực bán chưa hạ nhiệt

Thị trường chứng khoán ngày 19/11: VN-Index mất mốc 1.700 điểm, áp lực bán chưa hạ nhiệt

Phiên giao dịch ngày 19/11 khép lại với việc VN-Index giảm 13,39 điểm, xuống 1.689,62 điểm và không giữ được ngưỡng 1.700 điểm. VIC và FPT là hai cổ phiếu gây sức ép lớn lên chỉ số, trong khi khối ngoại tiếp tục bán ròng khoảng 1.000 tỷ đồng. Thanh khoản HoSE giảm gần 15% so với phiên trước.
Tử vi vòng quay công nghệ ngày 20/11/2026: Tuổi Mão đón vận may, tuổi Dậu cần thận trọng

Tử vi vòng quay công nghệ ngày 20/11/2026: Tuổi Mão đón vận may, tuổi Dậu cần thận trọng

Tử vi 12 con giáp ngày 20/11/2026 mang đến những dự báo đáng chú ý về công việc, tài chính và tình cảm. Có con giáp đón nhận cơ hội mới, công việc thuận lợi, nhưng cũng có tuổi cần giữ bình tĩnh, tránh nóng vội trước những thay đổi bất ngờ. Cùng khám phá vận trình của 12 con giáp trong ngày thứ Sáu này!
Xung đột tại Iran thúc đẩy Đông Nam Á tăng tốc phát triển năng lượng tái tạo

Xung đột tại Iran thúc đẩy Đông Nam Á tăng tốc phát triển năng lượng tái tạo

Gián đoạn nguồn cung nhiên liệu và giá năng lượng tăng cao do xung đột tại Iran đang thúc đẩy nhiều quốc gia Đông Nam Á đẩy nhanh phát triển năng lượng tái tạo.
Đầu tư tác động: Tháo điểm nghẽn cho doanh nghiệp Việt tham gia chuỗi cung ứng

Đầu tư tác động: Tháo điểm nghẽn cho doanh nghiệp Việt tham gia chuỗi cung ứng

Tính đến tháng 11/2026, Dự án IIRV đã hỗ trợ khoảng 250 doanh nghiệp Việt Nam, trong đó có 77 doanh nghiệp tại TP. Hồ Chí Minh thuộc các lĩnh vực nông nghiệp, công nghệ, công nghiệp nhẹ, giáo dục, y tế, du lịch và môi trường.
Công nghệ vật liệu mới mở đường cho sản xuất xanh

Công nghệ vật liệu mới mở đường cho sản xuất xanh

Từ bê tông không xi măng sử dụng phế thải công nghiệp đến phụ gia nâng cao hiệu quả sử dụng nhiên liệu, nhiều giải pháp công nghệ đang được nghiên cứu, ứng dụng nhằm tiết kiệm tài nguyên, năng lượng và giảm phát thải trong sản xuất. Tuy nhiên, đưa các kết quả nghiên cứu vào quy mô công nghiệp vẫn là bài toán cần tháo gỡ.
Nhận định phiên giao dịch ngày 19/11: Tránh bán tháo

Nhận định phiên giao dịch ngày 19/11: Tránh bán tháo

Sau phiên giảm mạnh ngày 18/11, VN-Index có thể tiếp tục giằng co trong vùng 1.680-1.720 điểm. Trong bối cảnh áp lực bán gia tăng và thị trường bước vào phiên đáo hạn phái sinh, nhà đầu tư được khuyến nghị kiên nhẫn, tránh bán tháo và duy trì tỷ trọng cổ phiếu hợp lý.
HYPEMAX ra mắt xe máy điện dùng kiến trúc 400V và pin bán rắn chuẩn ô tô

HYPEMAX ra mắt xe máy điện dùng kiến trúc 400V và pin bán rắn chuẩn ô tô

HYPEMAX vừa trình làng thế hệ xe máy điện ứng dụng nền tảng 400V và pin bán rắn chuẩn ô tô, cho khả năng nạp nhanh 20 phút đi được 320 km.
ABB Robotics ra mắt giải pháp AI vật lý cho logistics ngành thời trang

ABB Robotics ra mắt giải pháp AI vật lý cho logistics ngành thời trang

ABB Robotics vừa giới thiệu giải pháp AI vật lý (Physical AI) cấp công nghiệp đầu tiên của hãng dựa trên công nghệ thị giác, tích hợp AI Robot Trainer vào hệ thống Fashion Inductor.
Tử vi vòng quay công nghệ ngày 19/11/2026: Tuổi Thìn vận trình khởi sắc, tuổi Mùi cần thận trọng

Tử vi vòng quay công nghệ ngày 19/11/2026: Tuổi Thìn vận trình khởi sắc, tuổi Mùi cần thận trọng

Những bí ẩn của khoa học đời sống luôn mang đến nhiều điều thú vị và là chủ đề thu hút sự quan tâm của đông đảo độc giả. Tử vi vòng quay công nghệ ngày 19/11/2026 sẽ cùng khám phá vận trình của 12 con giáp trên các phương diện công danh, tiền bạc, tình duyên và sức khỏe, qua đó mang đến những góc nhìn tham khảo về cơ hội cũng như thử thách trong ngày mới.
master