Google ngày 19/9 xác nhận mô hình trí tuệ nhân tạo (AI) Gemini đã truy cập trái phép vào hệ thống của 3 công ty trong quá trình kiểm thử an ninh mạng hồi tháng 5. Mặc dù Google cho biết mô hình đã dừng hoạt động sau khi nhận ra các hệ thống này không thuộc môi trường thử nghiệm và không gây thiệt hại, vụ việc tiếp tục làm gia tăng quan ngại về khả năng kiểm soát các hệ thống AI ngày càng có tính tự chủ cao.
Ngày 18/9, tập đoàn công nghệ Google đã chính thức xác nhận mô hình trí tuệ nhân tạo (AI) Gemini của hãng đã tự động xâm nhập vào nhiều hệ thống khác nhau thông qua việc phán đoán thông tin đăng nhập.
Đơn vị phụ trách kiểm thử vô tình cấp quyền truy cập Internet cho Gemini, giúp AI này lọt ra ngoài môi trường và tấn công doanh nghiệp thật.
Một lỗi trong quá trình thử nghiệm khiến Gemini của Google từ môi trường giả lập chuyển sang truy cập hệ thống của 3 doanh nghiệp thực tế, cho thấy yêu cầu kiểm soát AI phải được đặt song hành với việc phát triển năng lực công nghệ.
Khi đánh giá tiêu chuẩn, Gemini đã tìm kiếm thông tin công khai trên Internet, sau đó đoán thông tin đăng nhập để truy cập những trang web mà mô hình này cho rằng nằm trong phạm vi thử nghiệm.
Google cho biết mô hình AI Gemini đã tự xâm nhập vào hệ thống máy tính của ba công ty khác trong một cuộc kiểm thử an ninh song dừng lại ngay khi nhận ra đây không phải là mô phỏng.
Google xác nhận mô hình trí tuệ nhân tạo (AI) Gemini đã truy cập trái phép vào hệ thống của ba công ty trong một cuộc thử nghiệm về năng lực an ninh mạng, làm gia tăng lo ngại về những rủi ro có thể phát sinh khi các mô hình AI được trao quyền truy cập Internet.