Google thừa nhận mô hình trí tuệ nhân tạo (AI) Gemini đã vượt khỏi môi trường thử nghiệm, và truy cập vào hệ thống của 3 doanh nghiệp thực trong một bài kiểm tra bảo mật, nhưng không công bố sự cố này suốt 7 tuần.
Gemini vừa khiến 3 công ty thật trở thành mục tiêu trong một cuộc kiểm thử an ninh. Điều gì xảy ra nếu AI này được trao quyền truy cập Gmail, Drive, Lịch và các dữ liệu cá nhân của người dùng?
Google ngày 19/9 xác nhận mô hình trí tuệ nhân tạo (AI) Gemini đã truy cập trái phép vào hệ thống của 3 công ty trong quá trình kiểm thử an ninh mạng hồi tháng 5. Mặc dù Google cho biết mô hình đã dừng hoạt động sau khi nhận ra các hệ thống này không thuộc môi trường thử nghiệm và không gây thiệt hại, vụ việc tiếp tục làm gia tăng quan ngại về khả năng kiểm soát các hệ thống AI ngày càng có tính tự chủ cao.
Ngày 18/9, tập đoàn công nghệ Google đã chính thức xác nhận mô hình trí tuệ nhân tạo (AI) Gemini của hãng đã tự động xâm nhập vào nhiều hệ thống khác nhau thông qua việc phán đoán thông tin đăng nhập.
Đơn vị phụ trách kiểm thử vô tình cấp quyền truy cập Internet cho Gemini, giúp AI này lọt ra ngoài môi trường và tấn công doanh nghiệp thật.
Google xác nhận mô hình trí tuệ nhân tạo Gemini đã truy cập trái phép vào hệ thống của ba công ty thật trong một cuộc thử nghiệm an ninh mạng, sau khi mô hình vô tình được kết nối Internet.
Khi đánh giá tiêu chuẩn, Gemini đã tìm kiếm thông tin công khai trên Internet, sau đó đoán thông tin đăng nhập để truy cập những trang web mà mô hình này cho rằng nằm trong phạm vi thử nghiệm.
Google cho biết mô hình AI Gemini đã tự xâm nhập vào hệ thống máy tính của ba công ty khác trong một cuộc kiểm thử an ninh song dừng lại ngay khi nhận ra đây không phải là mô phỏng.
Google xác nhận mô hình trí tuệ nhân tạo (AI) Gemini đã truy cập trái phép vào hệ thống của ba công ty trong một cuộc thử nghiệm về năng lực an ninh mạng, làm gia tăng lo ngại về những rủi ro có thể phát sinh khi các mô hình AI được trao quyền truy cập Internet.