Bộ KH và CN nêu 9 nguyên tắc nghiên cứu phát triển AI có trách nhiệm

Trí tuệ nhân tạo
15/06/2024 10:36
Ngày 11/6, Bộ Khoa học và Công nghệ (KH và CN) đã ban hành Quyết định số 1290 đưa ra 9 nguyên tắc thúc...
aa

Ngày 11/6, Bộ Khoa học và Công nghệ (KH và CN) đã ban hành Quyết định số 1290 đưa ra 9 nguyên tắc thúc đẩy nghiên cứu và phát triển các hệ thống trí tuệ nhân tạo (AI) an toàn, có trách nhiệm, hạn chế ảnh hưởng tiêu cực và kiểm soát rủi ro.

• Liên Hiệp Quốc thông qua nghị quyết về AI để bảo vệ nhân quyền
• G7 thống nhất về nguyên tắc phát triển trí tuệ nhân tạo

Đây là lần đầu tiên bộ nguyên tắc chung cho nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm, dành cho các cơ quan, tổ chức khoa học và công nghệ, doanh nghiệp cá nhân có hoạt động thiết kế, phát triển cung cấp các hệ thống AI được đưa ra tại Việt Nam.

bo kh va cn neu 9 nguyen tac nghien cuu phat trien ai co trach nhiem

Các nguyên tắc bao gồm:

Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo. Nhà phát triển cần chú ý đến khả năng kết nối và tương tác của các hệ thống AI nhằm tăng cường lợi ích của hệ thống AI thông qua quá trình kết nối các hệ thống và tăng cường sự phối hợp để kiểm soát rủi ro. Muốn vậy các nhà phát triển cần hợp tác chia sẻ thông tin liên quan nhằm đảm bảo tính liên thông, tương tác của hệ thống. Ưu tiên phát triển các hệ thống AI phù hợp các quy chuẩn kỹ thuật, tiêu chuẩn quốc gia hoặc tiêu chuẩn quốc tế, bên cạnh đó chuẩn hóa của các định dạng dữ liệu và tính mở của các giao diện, giao thức trong đó có các giao diện lập trình ứng dụng (API). Việc chia sẻ và trao đổi các điều kiện về quyền sở hữu trí tuệ như bằng sáng chế cũng góp phần tăng cường tính liên kết và khả năng tương tác khi liên quan đến các tài sản trí tuệ.

Tính minh bạch: Nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng.

Khả năng kiểm soát hệ thống: Một trong những phương pháp đánh giá rủi ro là tiến hành thử nghiệm trong một không gian riêng như trong phòng thí nghiệm hoặc môi trường thử nghiệm nơi đã có các biện pháp đảm bảo an ninh, an toàn trước khi đưa vào áp dụng thực tế. Nhà phát triển chú ý đến giám sát hệ thống (có công cụ đánh giá/giám sát hoặc hiệu chỉnh/cập nhật dựa trên các phản hồi của người dùng) và các biện pháp ứng phó (như ngắt hệ thống, ngắt mạng…).

Đánh giá xác định và giảm thiểu các rủi ro liên quan đến sự an toàn của hệ thống AI.

Tính bảo mật: Các nhà phát triển cần chú ý đến tính bảo mật, trong đó đặc biệt lưu ý đến độ tin cậy và khả năng chống chịu các dạng tấn công hoặc tai nạn vật lý của hệ thống trí tuệ nhân tạo. Đồng thời cần đảm bảo tính bảo mật; sự toàn vẹn và tính khả dụng của các thông tin cần thiết liên quan đến sự an toàn thông tin của hệ thống.

Đảm bảo hệ thống trí tuệ nhân tạo không vi phạm quyền riêng tư của người dùng hoặc bên thứ ba. Quyền riêng tư được đề cập trong nguyên tắc này bao gồm không gian (sự yên bình trong cuộc sống cá nhân), thông tin (dữ liệu cá nhân) và sự bí mật của việc thông tin liên lạc. Nhà phát triển có thể thực hiện các biện pháp phù hợp với đặc điểm của công nghệ được áp dụng trong suốt quá trình phát triển hệ thống (từ khi thiết kế) để tránh xâm phạm quyền riêng tư khi đưa vào sử dụng.

Tôn trọng quyền và phẩm giá con người: Khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người, thực hiện biện pháp phòng ngừa để đảm bảo không vi phạm giá trị con người, đạo đức xã hội.

Hỗ trợ người dùng và tạo điều kiện cho người dùng có cơ hội lựa chọn như tạo ra các giao diện sẵn sàng cung cấp thông tin kịp thời, biện pháp giúp người già, người khuyết tật dễ sử dụng.

Trách nhiệm giải trình: đây là nguyên tắc yêu cầu các nhà phát triển cần thực hiện đối với các hệ thống AI đã phát triển để đảm bảo niềm tin của người dùng.

Bộ Khoa học và Công nghệ cho biết việc xây dựng các tiêu chuẩn nhằm hướng dẫn, định hướng qua đó gia tăng lợi ích từ các hệ thống AI, kiểm soát giảm thiểu các rủi ro trong quá trình phát triển, sử dụng trí tuệ nhân tạo, cân đối các yếu tố kinh tế, đạo đức và pháp lý.

Nhiều quốc gia và tổ chức trên thế giới đã ban hành các nguyên tắc ứng xử khi phát triển hệ thống AI.

Chính phủ Vương quốc Anh ngày 30/3 đã công bố Sách trắng nêu 5 nguyên tắc mà các công ty phải tuân theo như an toàn, bảo mật và mạnh mẽ; tính minh bạch và khả năng giải thích; công bằng; trách nhiệm giải trình và quản trị; và khả năng cạnh tranh và khắc phục.

Ngày 14/5 năm 2023, Nghị viện châu Âu cũng đã thông qua quan điểm đàm phán về Luật Trí tuệ nhân tạo. Các quy định nhằm khuyến khích việc áp dụng AI đáng tin cậy và lấy con người làm trung tâm, đồng thời bảo vệ “sức khỏe, sự an toàn, các quyền cơ bản và nền dân chủ khỏi những tác động có hại của AI”.

Cuối tháng 10/2023, Nhóm các nước công nghiệp phát triển hàng đầu thế giới (G7), bao gồm cả Nhật Bản đã nhất trí đã về các nguyên tắc hướng dẫn và một Bộ quy tắc Ứng xử cho những nhà phát triển các dạng AI tiên tiến. Ngay sau đó, Chính phủ Nhật Bản mới đây đã đưa ra bản dự thảo hướng dẫn sử dụng trí tuệ nhân tạo (AI) áp dụng cho tất cả người sử dụng AI trong doanh nghiệp, bao gồm cả các công ty, tổ chức công nhằm áp dụng trong nước.

Minh Phúc

Bài liên quan
tan-hoang-minh
Tin bài khác
Tử vi vòng quay công nghệ ngày 19/11/2026: Tuổi Thìn vận trình khởi sắc, tuổi Mùi cần thận trọng

Tử vi vòng quay công nghệ ngày 19/11/2026: Tuổi Thìn vận trình khởi sắc, tuổi Mùi cần thận trọng

Những bí ẩn của khoa học đời sống luôn mang đến nhiều điều thú vị và là chủ đề thu hút sự quan tâm của đông đảo độc giả. Tử vi vòng quay công nghệ ngày 19/11/2026 sẽ cùng khám phá vận trình của 12 con giáp trên các phương diện công danh, tiền bạc, tình duyên và sức khỏe, qua đó mang đến những góc nhìn tham khảo về cơ hội cũng như thử thách trong ngày mới.
Giải thưởng Sáng kiến Chuyển đổi kép 2026: đi từ nhận thức chung đến xây dựng kế hoạch hành động

Giải thưởng Sáng kiến Chuyển đổi kép 2026: đi từ nhận thức chung đến xây dựng kế hoạch hành động

chiều 17/11, Vòng chung kết Giải thưởng Sáng kiến Chuyển đổi kép Việt Nam 2026 (Twin Transition Challenge 2026) diễn ra với sự tham gia của 6 doanh nghiệp xuất sắc được lựa chọn qua các vòng đánh giá. Các doanh nghiệp hoạt động trong ba lĩnh vực: chế biến nông sản, chế biến gỗ và giấy, dệt may và da giày.
Phương Linh Group đầu tư dây chuyền tự động hóa thông minh để đồng bộ hóa nhà máy gia công tấm

Phương Linh Group đầu tư dây chuyền tự động hóa thông minh để đồng bộ hóa nhà máy gia công tấm

Phương Linh Group vừa chính thức lựa chọn dây chuyền tự động hóa thông minh (Yawei) của Weldcom nhằm đồng bộ hóa, nâng cao chất lượng, sản lượng cho một trong ba nhà máy của doanh nghiệp này.
Tối ưu hóa quy trình sản xuất clo-kiềm: vai trò then chốt của công nghệ phân tích và giám sát thông minh

Tối ưu hóa quy trình sản xuất clo-kiềm: vai trò then chốt của công nghệ phân tích và giám sát thông minh

Ngành công nghiệp clo-kiềm giữ vai trò nền tảng trong chuỗi cung ứng hóa chất toàn cầu, cung cấp ba sản phẩm thiết yếu gồm clo (Cl₂), xút ăn da (NaOH) và hydro (H₂).
Tôn vinh tài năng trẻ, thúc đẩy khát vọng làm chủ công nghệ

Tôn vinh tài năng trẻ, thúc đẩy khát vọng làm chủ công nghệ

Chiều 17/11, tại Trường Đại học VinUni, Trung ương Đoàn phối hợp với Bộ Khoa học và Công nghệ tổ chức Lễ trao Giải thưởng Khoa học công nghệ Quả cầu vàng và Giải thưởng Nữ sinh khoa học công nghệ Việt Nam năm 2026. Sự kiện nhằm tôn vinh những tài năng trẻ có thành tích nổi bật trong nghiên cứu, sáng tạo, đồng thời khơi dậy khát vọng làm chủ khoa học, công nghệ, đóng góp vào sự phát triển của đất nước.
Doanh nghiệp nhỏ và vừa cần lộ trình chuyển đổi kép từ dữ liệu

Doanh nghiệp nhỏ và vừa cần lộ trình chuyển đổi kép từ dữ liệu

Chuyển đổi số và chuyển đổi xanh đang trở thành yêu cầu ngày càng rõ nét đối với doanh nghiệp khi tham gia chuỗi cung ứng. Tuy nhiên, nhiều doanh nghiệp nhỏ và vừa vẫn thiếu dữ liệu, nhân lực và nguồn lực để triển khai.
MB dự kiến thu về 3.018 tỷ đồng từ phát hành cổ phiếu

MB dự kiến thu về 3.018 tỷ đồng từ phát hành cổ phiếu

Ngân hàng MB dự kiến phát hành riêng lẻ 200 triệu cổ phiếu MBB với giá 15.090 đồng/cổ phiếu cho 6 nhà đầu tư chứng khoán chuyên nghiệp, thu về 3.018 tỷ đồng. Đồng thời, lên kế hoạch mua lại trái phiếu trước hạn.
Hiện đại hóa hệ thống DCS: Sáu giai đoạn giúp nâng cấp công nghệ, tối ưu vận hành

Hiện đại hóa hệ thống DCS: Sáu giai đoạn giúp nâng cấp công nghệ, tối ưu vận hành

Thay thế hệ thống điều khiển phân tán (DCS) cũ bằng nền tảng mới không đơn thuần là chuyển đổi phần cứng và sao chép cấu hình hiện hữu. Một quy trình hiện đại hóa bài bản cần đánh giá lại toàn bộ logic điều khiển, cảnh báo, dữ liệu và các chức năng vận hành đã tích lũy qua nhiều thập kỷ. Cách tiếp cận này giúp doanh nghiệp hạn chế rủi ro, giảm chi phí phát sinh và xây dựng nền tảng điều khiển phù hợp hơn với yêu cầu sản xuất hiện đại.
Di sản Hà Nội trong dòng chảy sáng tạo

Di sản Hà Nội trong dòng chảy sáng tạo

Từ những ngôi đình thờ tổ nghề trong phố cổ đến Chợ Đồng Xuân và Công viên Thống Nhất, Lễ hội Thiết kế Sáng tạo Hà Nội 2026 đưa di sản bước vào đời sống đương đại với 150 hoạt động nghệ thuật, triển lãm và trải nghiệm.
Nhận định phiên giao dịch ngày 18/11: Nắm giữ danh mục hiện tại

Nhận định phiên giao dịch ngày 18/11: Nắm giữ danh mục hiện tại

VN-Index đang tiến gần những vùng giá quan trọng, trong khi thanh khoản suy giảm và tâm lý thận trọng vẫn bao trùm thị trường. Trước khi xu hướng mới được xác lập, nhà đầu tư được khuyến nghị tiếp tục nắm giữ danh mục hiện tại, chưa vội mở mua thêm khi độ rộng thị trường và dòng tiền chưa xuất hiện tín hiệu cải thiện rõ ràng.
master