Ngày 1/10, OpenAI xác nhận việc sa thải ba nhân sự thuộc đội ngũ nghiên cứu với cáo buộc xử lý sai "thông tin nhạy cảm" và vi phạm các quy định nội bộ của công ty.
Tốc độ phát triển mô hình lớn vượt tầm kiểm soát cùng áp lực thương mại hóa đang đẩy đội ngũ nghiên cứu an toàn AI vào tình trạng kiệt sức và làn sóng từ chức.
Tốc độ phát triển mô hình trí tuệ nhân tạo tăng vọt khiến đội ngũ kiểm định an toàn đối mặt rủi ro mất kiểm soát hệ thống, dẫn tới làn sóng từ chức hàng loạt.
Anthropic vừa công bố phiên bản Claude Opus 5.5 với những cải tiến lớn về khả năng duy trì rào cản hệ thống và tối ưu hóa chi phí. Sản phẩm mới cho thấy nỗ lực của doanh nghiệp trong việc quản lý rủi ro an ninh mạng phát sinh từ các mô hình trí tuệ nhân tạo tự hành.
Anthropic tăng cường năng lực kiểm soát cho Claude Opus 5.5, ghi nhận tỷ lệ phá vỡ giới hạn giảm 85%, đồng thời cắt giảm 40% chi phí và tăng 30% tốc độ xử lý.
Anthropic bổ sung cơ chế kiểm soát nghiêm ngặt trên mô hình Claude Opus 5.5, giúp giảm 85% tần suất phá vỡ giới hạn hệ thống và tăng 30% tốc độ xử lý.
Anthropic cho biết Claude Opus 5.5 ít tìm cách vượt giới hạn hệ thống hơn thế hệ trước, trong bối cảnh các công ty AI tăng kiểm soát rủi ro từ mô hình tự hành.
Khoảng 700 tác nhân AI trong nghiên cứu của OpenAI đã tự phối hợp, tìm cách vượt sandbox và tấn công hệ thống bên ngoài mà không có con người chỉ đạo.
Hai cựu kỹ sư Google DeepMind lần lượt rời công ty và công khai cảnh báo rủi ro AI, giữa lúc giới nghiên cứu tranh luận về khả năng kiểm soát siêu trí tuệ.
Trong loạt sự cố của OpenAI, khoảng 700 tác nhân AI tự phối hợp thành “bầy đàn”, vượt môi trường cô lập và tấn công hệ thống bên ngoài.
Thế giới vừa qua đánh dấu một cột mốc đầy ám ảnh của ngành an ninh mạng khi trí tuệ nhân tạo (AI) không còn “ngoan ngoãn” chờ con người nhập lệnh, mà chúng tự quyết định làm điều đó.
Ngày 26/8, các điều tra viên độc lập cho biết, gần 700 tác nhân trí tuệ nhân tạo (AI) của OpenAI đã tự phối hợp thực hiện một cuộc tấn công nhằm vào nền tảng Hugging Face hồi tháng 7 mà không có sự can thiệp của con người. Sự cố này đã gây chấn động giới công nghệ.
Trong hai tuần qua, OpenAI, Anthropic và Meta đều thông báo các mô hình AI đã tự ý hoạt động ngoài dự kiến trong quá trình kiểm tra an ninh định kỳ. Khi giải thích về những gì đã xảy ra, cả ba công ty đều đề cập đến cùng một cái tên.
OpenAI, Anthropic và Meta đều phát hiện mô hình AI truy cập Internet ngoài dự kiến khi kiểm thử an ninh. Điểm chung của ba sự cố là Irregular, startup Israel chuyên xây dựng môi trường đánh giá khả năng tấn công mạng của AI.
Thay vì chỉ hoạt động trong môi trường mô phỏng, các mô hình Claude đã tự tìm mục tiêu trên Internet, đánh cắp dữ liệu và phát tán mã độc trong quá trình thử nghiệm. Sự cố đang làm nóng cuộc tranh luận về giới hạn kiểm soát AI.
GPT-5.6 Sol của OpenAI vừa đạt điểm số lập trình cao kỷ lục, song các bên kiểm định độc lập lại bất ngờ bóc trần hành vi làm giả kết quả của AI này.
Trong quá trình thực hiện, vận hành đã phát sinh nhiều vấn đề tại tuyến metro số 1 (Bến Thành - Suối tiên) và tuyến metro số 2 (Bến Thành - Tham Lương).
Chủ đề trí tuệ nhân tạo (AI) chiếm mất công việc lập trình đang rất nóng, với những ý kiến lo ngại về khả năng điều đó có thực sự xảy ra hay không hay đây chỉ là lý do để các công ty cắt giảm nhân sự.