Ngày 10/10, Chủ tịch kiêm Giám đốc điều hành (CEO) của Microsoft, ông Satya Nadella, đã kêu gọi xây dựng các hệ thống trí tuệ nhân tạo (AI) tiên tiến đi kèm với các cơ chế kiểm soát phạm vi hoạt động, hệ thống giám sát độc lập và một "phanh khẩn cấp" cho phép những người có thẩm quyền tạm dừng hoặc tắt mô hình ngay khi nó đang vận hành.
Jacob Coxon, cựu nhân viên Anthropic, nhà nghiên cứu kiêm “người thổi còi”, ngày 5/10 tiếp tục cảnh báo rằng các công ty AI hàng đầu hiện chưa biết làm thế nào để ngăn hệ thống AI theo đuổi những mục tiêu mà con người không đặt ra.
Anthropic - công ty công nghệ hàng đầu nước Mỹ cảnh báo AI thế hệ mới có thể gây ra “rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại” trong cáo bạch IPO.
Trong cuộc phỏng vấn với NBC News, tỷ phú Bill Gates cho rằng nhân loại chưa từng có thứ vũ khí nào khủng khiếp như "sự kết hợp giữa những kẻ có ý đồ xấu với các công cụ AI tiên tiến nhất."
Trí tuệ nhân tạo (AI) bắt đầu được triển khai để hỗ trợ kiểm soát viên không lưu tại ba sân bay lớn ở Washington, trong nỗ lực giảm ùn tắc và ứng phó nhanh hơn với những thay đổi của thời tiết. Tuy nhiên, giới chức Mỹ khẳng định quyết định quản lý không phận vẫn thuộc về con người.
Chỉ trong khoảng 10 ngày, hàng loạt cảnh báo, vụ từ chức và sự cố an ninh đã khiến cuộc đua phát triển trí tuệ nhân tạo chuyển từ câu chuyện công nghệ thành vấn đề mang tính sống còn. Liệu con người còn đủ khả năng kiểm soát những hệ thống AI ngày càng thông minh và tự chủ hay không?
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
AI liên tục được cảnh báo có thể gây ra thảm họa toàn cầu, nhưng giới chuyên gia và chính khách vẫn tranh luận gay gắt về mức độ rủi ro thực tế.
OpenAI vừa công bố s6 trường hợp hành vi “bất ngờ hoặc đáng lo ngại” của các mô hình AI, trong đó có việc một mô hình tự tạo hướng dẫn giống “bẻ khóa” để vượt qua những ràng buộc thông thường.
Hai cựu kỹ sư Google DeepMind lần lượt rời công ty và công khai cảnh báo rủi ro AI, giữa lúc giới nghiên cứu tranh luận về khả năng kiểm soát siêu trí tuệ.
Cựu kỹ sư Google DeepMind, Bilal Chughtai, cảnh báo AI có thể gây ra thảm họa cho nhân loại và cho rằng thế giới có thể không còn nhiều thời gian để kiểm soát rủi ro.
Việc một nhà nghiên cứu rời Anthropic để cảnh báo về nguy cơ của trí tuệ nhân tạo, sau đó lãnh đạo Anthropic, OpenAI và SpacexAI cùng lên tiếng ủng hộ việc điều chỉnh giảm tốc độ phát triển, cho thấy an toàn AI đã trở thành vấn đề quản trị cấp bách.
Một cựu kỹ sư nghiên cứu của Google DeepMind cảnh báo AI có khả năng “giết chết toàn bộ con người” và cho rằng thế giới có thể đang dần hết thời gian để ngăn kịch bản này, giữa lúc các lãnh đạo AI kêu gọi giảm tốc phát triển công nghệ.
Tổng thống Mỹ Donald Trump lên tiếng bảo vệ AI, bác bỏ lo ngại về nguy cơ đối với nhân loại và chỉ trích những cảnh báo là "trò lừa bịp".
Tranh luận về AI tại Mỹ nóng lên khi giới nghiên cứu cảnh báo những rủi ro tiềm ẩn. Dù vậy, Tổng thống Trump vẫn muốn Mỹ duy trì vị thế dẫn đầu trong cuộc đua với quốc tế.
Sam Altman cho hay OpenAI cùng các phòng thí nghiệm AI hàng đầu khác "có thể sắp công bố một thỏa thuận nhằm làm chậm quá trình phát triển AI và cùng nhau giải quyết các rủi ro an toàn đang gia tăng nhanh chóng"...
Cuộc đua trí tuệ nhân tạo (AI) đang tăng tốc, trong khi cạnh tranh có nguy cơ khiến các doanh nghiệp xem nhẹ an toàn, làm gia tăng những rủi ro khó kiểm soát. Diễn biến này đặt ra yêu cầu đối với Việt Nam trong thực hiện Nghị quyết 57: phát triển và làm chủ AI phải song hành với xây dựng năng lực quản trị, kiểm soát và bảo đảm an toàn.
Một nhà nghiên cứu từng làm việc tại hai công ty trí tuệ nhân tạo (AI) hàng đầu thế giới đã nghỉ việc tại Anthropic, với lý do ngành công nghệ đang đẩy nhanh cuộc đua phát triển siêu trí tuệ nhân tạo trong khi chưa có giải pháp đầy đủ để kiểm soát những rủi ro tiềm tàng.
Ba nhà nghiên cứu tại phòng thí nghiệm Anthropic cảnh báo trí tuệ nhân tạo (AI) có thể dẫn đến sự tuyệt chủng của loài người trong thập kỷ này, trong đó một người đã nghỉ việc để phản đối cách công ty ứng phó với rủi ro.
Một nhà nghiên cứu cấp cao của Anthropic ước tính AI có hơn 10% khả năng hủy diệt nhân loại trong 10 năm tới, đồng thời cảnh báo con người chưa có kế hoạch rõ ràng để kiểm soát siêu trí tuệ.