Bộ KH và CN nêu 9 nguyên tắc nghiên cứu phát triển AI có trách nhiệm

Trí tuệ nhân tạo
15/06/2024 10:36
Ngày 11/6, Bộ Khoa học và Công nghệ (KH và CN) đã ban hành Quyết định số 1290 đưa ra 9 nguyên tắc thúc...
aa

Ngày 11/6, Bộ Khoa học và Công nghệ (KH và CN) đã ban hành Quyết định số 1290 đưa ra 9 nguyên tắc thúc đẩy nghiên cứu và phát triển các hệ thống trí tuệ nhân tạo (AI) an toàn, có trách nhiệm, hạn chế ảnh hưởng tiêu cực và kiểm soát rủi ro.

• Liên Hiệp Quốc thông qua nghị quyết về AI để bảo vệ nhân quyền
• G7 thống nhất về nguyên tắc phát triển trí tuệ nhân tạo

Đây là lần đầu tiên bộ nguyên tắc chung cho nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm, dành cho các cơ quan, tổ chức khoa học và công nghệ, doanh nghiệp cá nhân có hoạt động thiết kế, phát triển cung cấp các hệ thống AI được đưa ra tại Việt Nam.

bo kh va cn neu 9 nguyen tac nghien cuu phat trien ai co trach nhiem

Các nguyên tắc bao gồm:

Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo. Nhà phát triển cần chú ý đến khả năng kết nối và tương tác của các hệ thống AI nhằm tăng cường lợi ích của hệ thống AI thông qua quá trình kết nối các hệ thống và tăng cường sự phối hợp để kiểm soát rủi ro. Muốn vậy các nhà phát triển cần hợp tác chia sẻ thông tin liên quan nhằm đảm bảo tính liên thông, tương tác của hệ thống. Ưu tiên phát triển các hệ thống AI phù hợp các quy chuẩn kỹ thuật, tiêu chuẩn quốc gia hoặc tiêu chuẩn quốc tế, bên cạnh đó chuẩn hóa của các định dạng dữ liệu và tính mở của các giao diện, giao thức trong đó có các giao diện lập trình ứng dụng (API). Việc chia sẻ và trao đổi các điều kiện về quyền sở hữu trí tuệ như bằng sáng chế cũng góp phần tăng cường tính liên kết và khả năng tương tác khi liên quan đến các tài sản trí tuệ.

Tính minh bạch: Nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng.

Khả năng kiểm soát hệ thống: Một trong những phương pháp đánh giá rủi ro là tiến hành thử nghiệm trong một không gian riêng như trong phòng thí nghiệm hoặc môi trường thử nghiệm nơi đã có các biện pháp đảm bảo an ninh, an toàn trước khi đưa vào áp dụng thực tế. Nhà phát triển chú ý đến giám sát hệ thống (có công cụ đánh giá/giám sát hoặc hiệu chỉnh/cập nhật dựa trên các phản hồi của người dùng) và các biện pháp ứng phó (như ngắt hệ thống, ngắt mạng…).

Đánh giá xác định và giảm thiểu các rủi ro liên quan đến sự an toàn của hệ thống AI.

Tính bảo mật: Các nhà phát triển cần chú ý đến tính bảo mật, trong đó đặc biệt lưu ý đến độ tin cậy và khả năng chống chịu các dạng tấn công hoặc tai nạn vật lý của hệ thống trí tuệ nhân tạo. Đồng thời cần đảm bảo tính bảo mật; sự toàn vẹn và tính khả dụng của các thông tin cần thiết liên quan đến sự an toàn thông tin của hệ thống.

Đảm bảo hệ thống trí tuệ nhân tạo không vi phạm quyền riêng tư của người dùng hoặc bên thứ ba. Quyền riêng tư được đề cập trong nguyên tắc này bao gồm không gian (sự yên bình trong cuộc sống cá nhân), thông tin (dữ liệu cá nhân) và sự bí mật của việc thông tin liên lạc. Nhà phát triển có thể thực hiện các biện pháp phù hợp với đặc điểm của công nghệ được áp dụng trong suốt quá trình phát triển hệ thống (từ khi thiết kế) để tránh xâm phạm quyền riêng tư khi đưa vào sử dụng.

Tôn trọng quyền và phẩm giá con người: Khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người, thực hiện biện pháp phòng ngừa để đảm bảo không vi phạm giá trị con người, đạo đức xã hội.

Hỗ trợ người dùng và tạo điều kiện cho người dùng có cơ hội lựa chọn như tạo ra các giao diện sẵn sàng cung cấp thông tin kịp thời, biện pháp giúp người già, người khuyết tật dễ sử dụng.

Trách nhiệm giải trình: đây là nguyên tắc yêu cầu các nhà phát triển cần thực hiện đối với các hệ thống AI đã phát triển để đảm bảo niềm tin của người dùng.

Bộ Khoa học và Công nghệ cho biết việc xây dựng các tiêu chuẩn nhằm hướng dẫn, định hướng qua đó gia tăng lợi ích từ các hệ thống AI, kiểm soát giảm thiểu các rủi ro trong quá trình phát triển, sử dụng trí tuệ nhân tạo, cân đối các yếu tố kinh tế, đạo đức và pháp lý.

Nhiều quốc gia và tổ chức trên thế giới đã ban hành các nguyên tắc ứng xử khi phát triển hệ thống AI.

Chính phủ Vương quốc Anh ngày 30/3 đã công bố Sách trắng nêu 5 nguyên tắc mà các công ty phải tuân theo như an toàn, bảo mật và mạnh mẽ; tính minh bạch và khả năng giải thích; công bằng; trách nhiệm giải trình và quản trị; và khả năng cạnh tranh và khắc phục.

Ngày 14/5 năm 2023, Nghị viện châu Âu cũng đã thông qua quan điểm đàm phán về Luật Trí tuệ nhân tạo. Các quy định nhằm khuyến khích việc áp dụng AI đáng tin cậy và lấy con người làm trung tâm, đồng thời bảo vệ “sức khỏe, sự an toàn, các quyền cơ bản và nền dân chủ khỏi những tác động có hại của AI”.

Cuối tháng 10/2023, Nhóm các nước công nghiệp phát triển hàng đầu thế giới (G7), bao gồm cả Nhật Bản đã nhất trí đã về các nguyên tắc hướng dẫn và một Bộ quy tắc Ứng xử cho những nhà phát triển các dạng AI tiên tiến. Ngay sau đó, Chính phủ Nhật Bản mới đây đã đưa ra bản dự thảo hướng dẫn sử dụng trí tuệ nhân tạo (AI) áp dụng cho tất cả người sử dụng AI trong doanh nghiệp, bao gồm cả các công ty, tổ chức công nhằm áp dụng trong nước.

Minh Phúc

Bài liên quan
tan-hoang-minh
Tin bài khác
Hoàn thiện pháp luật, đáp ứng yêu cầu điều tra hình sự trong tình hình mới

Hoàn thiện pháp luật, đáp ứng yêu cầu điều tra hình sự trong tình hình mới

Cùng với sự phát triển của xã hội, phương thức, thủ đoạn hoạt động của tội phạm ngày càng đa dạng, phức tạp, đặt ra những yêu cầu mới đối với công tác điều tra hình sự. Đặc biệt, trong bối cảnh chuyển đổi số đang diễn ra mạnh mẽ, việc hoàn thiện các quy định pháp luật về tổ chức và hoạt động của cơ quan điều tra trở thành yêu cầu cấp thiết. Dự án Luật Tổ chức cơ quan điều tra hình sự (sửa đổi) được kỳ vọng sẽ tháo gỡ những vướng mắc từ thực tiễn, tạo cơ sở pháp lý đáp ứng yêu cầu đấu tranh phòng, chống tội phạm trong tình hình mới.
Phú Thọ: Tăng cường hợp tác với doanh nghiệp Rumani trong ba lĩnh vực trọng tâm

Phú Thọ: Tăng cường hợp tác với doanh nghiệp Rumani trong ba lĩnh vực trọng tâm

Phú Thọ mong muốn thúc đẩy hợp tác với doanh nghiệp Rumani trong các lĩnh vực công nghiệp chế biến, chế tạo; năng lượng tái tạo, hạ tầng xanh và thương mại, logistics, đồng thời mở rộng cơ hội xuất khẩu hàng hóa sang thị trường châu Âu.
Thị trường chứng khoán ngày 20/11:  VN-Index giảm phiên thứ 4 liên tiếp, mất hơn 46 điểm trong tuần

Thị trường chứng khoán ngày 20/11: VN-Index giảm phiên thứ 4 liên tiếp, mất hơn 46 điểm trong tuần

Thị trường chứng khoán tiếp tục diễn biến tiêu cực khi VN-Index giảm phiên thứ tư liên tiếp, đóng cửa sát 1.689 điểm. Tính chung cả tuần, chỉ số mất hơn 46 điểm, trong khi áp lực bán vẫn lan rộng và khối ngoại nối dài chuỗi bán ròng.
Ứng dụng AI trong doanh nghiệp nhằm nâng cao năng lực lãnh đạo, hiệu quả đầu tư và cơ hội hợp tác

Ứng dụng AI trong doanh nghiệp nhằm nâng cao năng lực lãnh đạo, hiệu quả đầu tư và cơ hội hợp tác

Nghị quyết số 57-NQ/TW của Bộ Chính trị đã xác định vai trò trung tâm của người dân và doanh nghiệp trong phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số. Cùng với đó, Nghị quyết số 68-NQ/TW nhấn mạnh yêu cầu đổi mới công nghệ, nâng cao năng lực quản trị và tăng cường liên kết doanh nghiệp. Tinh thần xuyên suốt này cũng định hướng cho công tác xúc tiến đầu tư là gắn thu hút nguồn lực với nâng cao khả năng tiếp nhận công nghệ, năng lực triển khai và hiệu quả sử dụng vốn của doanh nghiệp.
VUSTA tìm giải pháp tháo gỡ điểm nghẽn, phát huy sức mạnh liên kết các Hội ngành toàn quốc

VUSTA tìm giải pháp tháo gỡ điểm nghẽn, phát huy sức mạnh liên kết các Hội ngành toàn quốc

Sáng 20/11, Liên hiệp hội Việt Nam tổ chức Hội thảo “Giải pháp tăng cường hoạt động phối hợp giữa các Hội ngành toàn quốc và Liên hiệp các Hội Khoa học và Kỹ thuật Việt Nam” nhằm nâng cao hiệu quả phối hợp và phát huy tiềm năng đội ngũ trí thức khoa học, công nghệ.
Tử vi vòng quay công nghệ ngày 21/11/2026: Tuổi Thìn đón tài lộc, tuổi Tý cần đề phòng áp lực

Tử vi vòng quay công nghệ ngày 21/11/2026: Tuổi Thìn đón tài lộc, tuổi Tý cần đề phòng áp lực

Tử vi 12 con giáp ngày 21/11/2026 hé lộ những chuyển biến đáng chú ý trên phương diện công việc, tài chính và tình cảm. Trong khi một số con giáp có cơ hội khẳng định năng lực, đón nhận tin vui về tiền bạc thì những tuổi khác cần thận trọng hơn trong lời nói và cách đưa ra quyết định. Cùng khám phá vận trình của 12 con giáp trong ngày thứ Bảy này!
HHT mở rộng đào tạo công nghệ cao, đón đầu nhu cầu nhân lực tương lai

HHT mở rộng đào tạo công nghệ cao, đón đầu nhu cầu nhân lực tương lai

Việc đưa vào hoạt động Trung tâm STEM AI ROBOT đánh dấu bước tiến mới của Trường Cao đẳng Công nghệ cao Hà Nội trong đổi mới đào tạo, tăng cường thực hành và phát triển nguồn nhân lực đáp ứng yêu cầu của nền kinh tế số.
Giữ lửa đam mê, gieo mầm khoa học như Nhà giáo trẻ Nguyễn Thị Vân Anh

Giữ lửa đam mê, gieo mầm khoa học như Nhà giáo trẻ Nguyễn Thị Vân Anh

Từ những câu hỏi về chuyển động của máy móc khi còn nhỏ đến các nghiên cứu chuyên sâu về điều khiển và robot, TS. Nguyễn Thị Vân Anh, giảng viên Khoa Tự động hóa, Trường Điện - Điện tử, Đại học Bách khoa Hà Nội, đã từng bước xác định con đường khoa học mình muốn theo đuổi.
[E-Magazine] Trí tuệ nhân tạo soạn bài trong vài phút, vì sao người thầy vẫn bận rộn?

[E-Magazine] Trí tuệ nhân tạo soạn bài trong vài phút, vì sao người thầy vẫn bận rộn?

Chỉ một câu lệnh, trí tuệ nhân tạo (AI) có thể phác thảo giáo án, tạo câu hỏi kiểm tra và thiết kế học liệu trong thời gian ngắn. Nhưng sau sự tiện lợi ấy, giáo viên vẫn phải đọc, kiểm chứng, sửa chữa, chấm điểm và thấu hiểu từng học sinh. Những nghiên cứu mới đang chỉ ra một thực tế là công nghệ rút ngắn thời gian của từng việc, song chưa chắc làm nhẹ đi gánh nặng nghề nghiệp.
Nhận định phiên giao dịch ngày 20/11: Ưu tiên quản trị rủi ro, hạ tỷ trọng ở các nhịp hồi kỹ thuật

Nhận định phiên giao dịch ngày 20/11: Ưu tiên quản trị rủi ro, hạ tỷ trọng ở các nhịp hồi kỹ thuật

VN-Index tiếp tục giảm trong phiên 19/11 và đóng cửa dưới mốc 1.700 điểm. Các chỉ báo kỹ thuật cho thấy động lực tăng và dòng tiền đều suy yếu, khiến rủi ro điều chỉnh vẫn hiện hữu. Nhà đầu tư được khuyến nghị ưu tiên quản trị rủi ro, hạn chế sử dụng đòn bẩy và cân nhắc hạ tỷ trọng cổ phiếu khi thị trường xuất hiện các nhịp hồi kỹ thuật.
master