CEO Microsoft lên tiếng về mối nguy AI

CEO Microsoft cảnh báo mối nguy từ chính các công cụ AI. Ảnh: Bloomberg.

Trong cuộc phỏng vấn với nhà báo Joanna Stern của The New Things ngày 15/10, CEO Satya Nadella cảnh báo về nguy cơ bảo mật từ các tác nhân AI. Ông cho rằng người dùng không nên hoàn toàn tin tưởng những công cụ có khả năng tự thực hiện công việc trên máy tính.

“Tôi xem tác nhân AI là rủi ro nội bộ và áp dụng các biện pháp kiểm soát phù hợp”, Nadella nói.

Tác nhân AI là công cụ có thể tự thực hiện nhiệm vụ thay con người. Chẳng hạn, chúng có thể tìm tài liệu, mở ứng dụng hoặc xử lý nhiều công việc liên tiếp mà không cần người dùng hướng dẫn từng bước.

Khả năng này giúp tiết kiệm thời gian nhưng cũng tiềm ẩn rủi ro bảo mật. AI có thể truy cập thông tin nhạy cảm, thực hiện thao tác ngoài ý muốn hoặc bị lợi dụng để làm những việc trái với yêu cầu ban đầu.

Để hạn chế tác động, Microsoft đang phát triển các biện pháp kiểm soát tác nhân AI trên Windows. Theo kế hoạch, mỗi công cụ sẽ có mã nhận diện riêng và hoạt động trong một môi trường tách biệt. Quyền truy cập dữ liệu cũng sẽ bị giới hạn theo từng nhiệm vụ.

Gã khổng lồ phần mềm còn muốn mở rộng khả năng bảo mật của Windows Defender. Ngoài việc phát hiện phần mềm độc hại, hệ thống sẽ theo dõi hoạt động của các tác nhân AI. Khi phát hiện hành vi bất thường, Defender có thể cảnh báo hoặc ngăn công cụ tiếp tục thực hiện nhiệm vụ.

Nadella cho rằng máy tính cần có phần mềm diệt virus dành riêng cho AI để kiểm soát những rủi ro từ các công cụ này.

Theo CEO Microsoft, nguy cơ không chỉ đến từ những phần mềm độc hại bên ngoài. Chính các công cụ AI mà người dùng cài đặt và cấp quyền cũng có thể trở thành mối đe dọa.

Cảnh báo trên xuất hiện khi Microsoft muốn đưa AI tham gia sâu hơn vào các công việc hàng ngày. Công ty kỳ vọng các tác nhân AI có thể tự hoàn thành nhiệm vụ, thay vì chỉ trả lời câu hỏi hoặc hỗ trợ soạn thảo văn bản.

Microsoft cũng đang điều chỉnh cách tích hợp Copilot vào Windows. Sau những phản hồi từ người dùng, công ty đã giảm số vị trí xuất hiện của trợ lý AI để tránh gây phiền toái.