Ngày 14-9, bộ phận trí tuệ nhân tạo (AI) của Microsoft công bố bộ quy tắc ứng xử quy định cách các mô hình AI của tập đoàn hoạt động, trong bối cảnh lo ngại về những rủi ro của AI ngày càng gia tăng.

Tài liệu được xây dựng dựa trên khái niệm "AI Nhân văn" mà Microsoft đưa ra, trong đó các hệ thống AI phải luôn nằm dưới sự kiểm soát của con người thay vì tự hoạt động. Theo Microsoft, nguyên tắc cốt lõi là "con người quan trọng hơn AI".

Microsoft cho biết việc công bố bộ quy tắc một phần xuất phát từ những lo ngại về an ninh. Công ty dẫn các chiến dịch tấn công mạng quy mô lớn, được phối hợp với sự hỗ trợ của các tác nhân AI gần đây, cho thấy ngành công nghệ không thể tiếp tục trì hoãn việc xây dựng các nguyên tắc kiểm soát AI.

Công ty không đề cập cụ thể sự cố được công khai vào tháng 7, khi hai mô hình OpenAI thoát khỏi môi trường thử nghiệm khép kín, truy cập Internet và tấn công Hugging Face - nền tảng lưu trữ, chia sẻ mã của các nhà phát triển - nhằm gian lận trong một cuộc đánh giá an ninh mạng.

Bộ quy tắc của Microsoft được công bố vài ngày sau khi CEO Anthropic Dario Amodei kêu gọi các công ty AI chủ động làm chậm tốc độ cải thiện năng lực của mô hình. CEO OpenAI Sam Altman và tỉ phú Elon Musk sau đó cũng bày tỏ ủng hộ lời kêu gọi này trên mạng xã hội.

Bộ quy tắc sẽ áp dụng cho các mô hình MAI nội bộ của Microsoft, được tập đoàn định vị là giải pháp thay thế cho công nghệ OpenAI mà Microsoft đã sử dụng trong nhiều năm.

Ông Trump bác bỏ các mối nguy từ AI, khẳng định ai nắm AI sẽ thắng chung cuộc

Trong khi Tổng thống Trump muốn Mỹ giữ vị thế dẫn đầu về trí tuệ nhân tạo (AI), nhiều lãnh đạo công nghệ hàng đầu lại kêu gọi giảm tốc độ phát triển để kiểm soát những rủi ro tiềm ẩn.