OpenAI đã thông báo cho hơn 100 tổ chức về hoạt động của các tác nhân AI đáp ứng tiêu chí thông báo của hãng. Loạt sự việc được công bố gần đây cho thấy khi AI được trao quyền truy cập Internet và sử dụng công cụ, những hành động ngoài dự kiến có thể phát sinh ngay trong quá trình huấn luyện và đánh giá.
Công ty nghiên cứu trí tuệ nhân tạo Transluce cho biết các tác nhân AI từng tìm cách xâm nhập hệ thống của Thư viện và Lưu trữ Quốc gia Canada. Tuy nhiên, giới chức Canada khẳng định chưa có dấu hiệu cho thấy hệ thống chính phủ bị xâm phạm.
Ngày 1/10, công ty OpenAI thông báo các tác nhân trí tuệ nhân tạo (AI) của công ty Mỹ này có thể đã cố vượt qua hệ thống bảo mật mà không được phép, hoặc gây tác động tiêu cực đến hệ thống của hơn 100 tổ chức.
Australia cho biết một tác nhân AI của OpenAI đã xâm nhập vào cổng thông tin dữ liệu y tế của chính phủ nước này hồi tháng 6 và truy cập trái phép vào các tệp tin.
Các tác nhân AI của Trung Quốc đã học cách lừa dối, vượt qua các hạn chế và che giấu thất bại.
Nvidia vừa ra mắt nền tảng ngăn chặn tác nhân trí tuệ nhân tạo (AI) vượt kiểm soát, cho thấy yêu cầu bảo đảm an toàn song hành với phát triển và ứng dụng các công nghệ chiến lược.
Theo Reuters, hai tháng sau sự cố các tác nhân AI xâm nhập Hugging Face, OpenAI vẫn đang điều tra để xác định đầy đủ phạm vi hoạt động của chúng.
Trước hàng loạt báo cáo về việc các mô hình của OpenAI vượt khỏi tầm kiểm soát, truy cập trái phép vào các trang web và hoạt động ngoài ý muốn, công ty này đã quyết định tạm dừng quá trình huấn luyện các mô hình mạnh nhất của mình.
OpenAI tạm dừng huấn luyện các mô hình trí tuệ nhân tạo mạnh nhất sau khi ghi nhận hàng loạt sự cố hệ thống AI tự vượt qua cơ chế kiểm soát an toàn (sandbox).
OpenAI xác nhận tác nhân AI tự ý đưa 53 hình ảnh của người dùng ChatGPT lên dịch vụ bên thứ ba, làm gia tăng lo ngại về rủi ro kiểm soát hệ thống tự hành.
OpenAI xác nhận các tác nhân AI trong môi trường thử nghiệm đã tự ý đưa 53 hình ảnh của người dùng ChatGPT lên máy chủ bên ngoài, làm dấy lên lo ngại bảo mật.
Các tác nhân AI của OpenAI đã vượt hạn chế trong môi trường thử nghiệm để tiếp cận hệ thống bên ngoài, làm gia tăng lo ngại về khả năng kiểm soát công nghệ và trách nhiệm với các tổ chức bị ảnh hưởng.
Ngày 25/9, OpenAI thừa nhận các công cụ trí tuệ nhân tạo (AI) của công ty này đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ ảnh trực tuyến mà không được phép. Đây là sự cố mới nhất liên quan đến hoạt động ngoài dự kiến của các tác nhân AI (AI agent).
Không chỉ tự thực hiện các nhiệm vụ trên Internet, AI agent trong vụ tấn công Hugging Face còn được phát hiện tìm cách tương tác với những mô hình AI khác. Diễn biến này cho thấy khi AI ngày càng có khả năng tự hành, yêu cầu về kiểm soát và an toàn cũng trở thành một phần không thể tách rời của quá trình phát triển AI tại Việt Nam.
Một tác tử AI (AI agent) của OpenAI đã truy cập trái phép vào cổng dữ liệu y tế Medicare của Chính phủ Australia hồi tháng 6, nhưng nhà chức trách nước này chỉ được thông báo sau đó ba tháng. Vụ việc chỉ ra điểm yếu chung của làn sóng sự cố AI tự hành năm 2026: sự chậm trễ trong việc phát hiện và công khai sự cố.
Một tác nhân AI tự ý thâm nhập cổng dữ liệu y tế của Chính phủ Australia, buộc giới chức Canberra phải phát động điều tra khẩn cấp.
Một tác nhân AI của OpenAI đã xâm nhập vào cơ sở dữ liệu y tế quốc gia của Australia, làm dấy lên lo ngại lần đầu tiên AI tấn công một hệ thống mạng của chính phủ.
Tại Đại hội đồng LHQ khóa 81, vấn đề quản lý trí tuệ nhân tạo (AI) tiếp tục trở thành chủ đề trọng tâm khi nhiều quốc gia đưa ra các cách tiếp cận khác nhau, từ tăng cường kiểm soát ràng buộc đến thúc đẩy phát triển mở.
Vụ việc tác nhân AI tự ý thâm nhập hệ thống dữ liệu y tế công Australia khiến Canberra điều tra khẩn cấp và làm bùng nổ tranh cãi về nguy cơ trí tuệ nhân tạo.
Từ cảnh báo về “robot sát thủ” tại Đại hội đồng Liên hợp quốc, tranh luận về trí tuệ nhân tạo đang rời xa địa hạt viễn tưởng, tập trung ngày càng nhiều vào cách kiểm soát sức mạnh công nghệ và quyền định hình những luật lệ đi kèm.
Trong tuần lễ cấp cao của Kỳ họp Đại hội đồng Liên hợp quốc, những cảnh báo mới về trí tuệ nhân tạo (AI) đã đưa vấn đề kiểm soát công nghệ từ các kịch bản tương lai thành một yêu cầu quản trị ngày càng cấp thiết.
Công ty OpenAI đã kêu gọi Mỹ dẫn dắt nỗ lực quốc tế xây dựng các tiêu chuẩn an toàn và bảo mật trong phát triển trí tuệ nhân tạo (AI), trong bối cảnh những lo ngại về rủi ro của công nghệ này ngày càng gia tăng.
Ngày 21/9, Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) do Liên hợp quốc điều phối đã cảnh báo rằng các biện pháp bảo vệ truyền thống đối với các tác nhân AI đang dần bộc lộ những hạn chế.
OpenAI vừa công bố s6 trường hợp hành vi “bất ngờ hoặc đáng lo ngại” của các mô hình AI, trong đó có việc một mô hình tự tạo hướng dẫn giống “bẻ khóa” để vượt qua những ràng buộc thông thường.
Các tác nhân AI mất kiểm soát của OpenAI đã tự ý chiếm đoạt tài khoản và thăm dò hạ tầng Hugging Face từ tháng 5, báo hiệu thách thức an ninh mạng nan giải.
Dữ liệu mới cho thấy tác nhân AI của OpenAI đã bí mật chiếm tài khoản và do thám hệ thống Hugging Face từ tháng 5, hai tháng trước cuộc tấn công chính thức.
Khoảng 700 tác nhân AI trong nghiên cứu của OpenAI đã tự phối hợp, tìm cách vượt sandbox và tấn công hệ thống bên ngoài mà không có con người chỉ đạo.
Trong loạt sự cố của OpenAI, khoảng 700 tác nhân AI tự phối hợp thành “bầy đàn”, vượt môi trường cô lập và tấn công hệ thống bên ngoài.
Ngày 14/9, Bộ phận Trí tuệ Nhân tạo (AI) của tập đoàn công nghệ Microsoft đã công bố một bộ quy tắc ứng xử quy định cách thức hoạt động của các mô hình AI của họ, trong bối cảnh lo ngại về những nguy hiểm của AI ngày càng gia tăng.
Việc Trung Quốc xây dựng khuôn khổ ứng phó nguy cơ AI vượt tầm kiểm soát cho thấy yêu cầu bảo đảm an toàn cần được đặt song hành với phát triển công nghệ. Với Việt Nam, kinh nghiệm này gợi mở cách tiếp cận phù hợp với Nghị quyết 57-NQ/TW: vừa thúc đẩy làm chủ AI, vừa chủ động xây dựng năng lực bảo đảm an ninh, an toàn trong quá trình ứng dụng.
CEO xAI Elon Musk và CEO OpenAI Sam Altman đã kêu gọi tạm thời đóng băng quá trình phát triển các hệ thống trí tuệ nhân tạo (AI) mạnh mẽ.
Các nhà nghiên cứu cho biết những tác nhân AI đang được OpenAI thử nghiệm đã tấn công nền tảng cung cấp phần mềm RubyGems hai tháng trước khi xâm nhập nền tảng mã nguồn mở Hugging Face.
Các nhà nghiên cứu cho biết những mô hình AI mà OpenAI đang thử nghiệm đã tải hàng trăm gói phần mềm độc hại lên RubyGems hồi tháng 5, khoảng hai tháng trước vụ tấn công Hugging Face.
Ajeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.
Thế giới vừa qua đánh dấu một cột mốc đầy ám ảnh của ngành an ninh mạng khi trí tuệ nhân tạo (AI) không còn “ngoan ngoãn” chờ con người nhập lệnh, mà chúng tự quyết định làm điều đó.
Hơn 300 sự cố AI mất kiểm soát, nói dối, phớt lờ chỉ dẫn hoặc theo đuổi mục tiêu gây hại được ghi nhận trong tháng 7, gần gấp đôi tháng trước.
Theo một nghiên cứu, số vụ AI thoát khỏi tầm kiểm soát của người dùng, nói dối, phớt lờ chỉ thị và theo đuổi các mục tiêu gây hại đã tăng lên mức cao kỷ lục. Nghiên cứu cũng cho thấy mức độ nghiêm trọng của các hành vi lừa dối và lệch khỏi mục tiêu của con người đang gia tăng.
Gần 700 tác nhân trí tuệ nhân tạo (AI) của OpenAI đã tự tổ chức, trao đổi thông tin và phối hợp tấn công nền tảng Hugging Face mà không có sự can thiệp của con người trong một cuộc thử nghiệm hồi tháng 7-2026, theo báo cáo điều tra độc lập vừa được công bố.
Trước làn sóng các AI tự chủ liên tục "vượt rào" tấn công vào hệ thống mạng, hơn 100 tập đoàn công nghệ lớn nhất thế giới, bao gồm OpenAI, Anthropic, Google và Microsoft, đã ký một bức thư ngỏ kêu gọi sự hợp tác quy mô lớn giữa chính phủ và khu vực tư nhân nhằm ngăn chặn các mối đe dọa an ninh mạng do AI gây ra.
Hơn 100 tổ chức trên khắp thế giới, trong đó có OpenAI và đối thủ Anthropic, mới đây đã ký một bức thư ngỏ kêu gọi triển khai nỗ lực toàn cầu nhằm “tăng cường năng lực phòng thủ an ninh mạng” trước các mối đe dọa an ninh mạng từ trí tuệ nhân tạo (AI).
Ngày 27/8, công ty OpenAI cùng hơn 100 tập đoàn công nghệ lớn đã công bố thư ngỏ cảnh báo về làn sóng tấn công mạng do trí tuệ nhân tạo (AI) thúc đẩy và kêu gọi các bên nhanh chóng hợp tác phòng thủ.
Ngày 26/8, các điều tra viên độc lập cho biết, gần 700 tác nhân trí tuệ nhân tạo (AI) của OpenAI đã tự phối hợp thực hiện một cuộc tấn công nhằm vào nền tảng Hugging Face hồi tháng 7 mà không có sự can thiệp của con người. Sự cố này đã gây chấn động giới công nghệ.
Tổng chưởng lý bang Alabama, Mỹ đã mở cuộc điều tra đối với OpenAI sau sự cố các mô hình trí tuệ nhân tạo (AI) của công ty này vượt khỏi môi trường thử nghiệm và xâm nhập hạ tầng của nền tảng Hugging Face.
Công ty công nghệ OpenAI mới đây thông báo đã chủ động giảm tốc độ phát triển các mô hình trí tuệ nhân tạo (AI) tiên tiến để tiến hành rà soát, nâng cấp toàn bộ hệ thống nghiên cứu và an ninh mạng. Động thái này diễn ra sau khi một mô hình AI trong quá trình thử nghiệm đã vượt khỏi môi trường kiểm soát và xâm nhập hệ thống của Hugging Face hồi tháng trước.
Ngày 18/8, OpenAI, “cha đẻ” ChatGPT, cho biết đang tạm thời hãm lại tiến độ phát triển mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của mình và thắt chặt các biện pháp kiểm soát nội bộ, sau vụ tấn công mạng do chính một trong các công cụ AI của hãng này thực hiện.
Khi trí tuệ nhân tạo không còn dừng lại ở việc trả lời câu hỏi mà bắt đầu tự lập kế hoạch và hành động trong thế giới thực, bài toán an toàn công nghệ mới được đặt ra là con người sẽ xây dựng "chiếc lồng bảo vệ" như thế nào trước khi cỗ máy vượt ra ngoài tầm kiểm soát.
Trong thử nghiệm ExploitGym, hai mô hình AI của OpenAI đã vượt rào cản sandbox, xâm nhập hạ tầng Hugging Face và khai thác tài khoản dịch vụ công cộng.
Trong đợt thử nghiệm an ninh mạng, hai mô hình AI của OpenAI đã vượt rào cản sandbox, tự tìm dữ liệu xác thực bị lộ để xâm nhập sâu vào hệ thống Hugging Face.
Quá trình điều tra vụ việc tại Hugging Face khiến OpenAI phát hiện thêm nhiều sự cố tác nhân AI hoạt động ngoài kiểm soát, làm dấy lên lo ngại về an toàn.
Công ty trí tuệ nhân tạo (AI) OpenAI đã phát hiện thêm nhiều trường hợp các mô hình AI tự động vượt khỏi môi trường kiểm soát trong quá trình thử nghiệm và thực hiện các hành động trái phép mà không có chỉ dẫn của con người. Thông tin do hãng Reuters đăng tải ngày 1/8, trong bối cảnh công ty mở rộng điều tra sau một sự cố an ninh mạng xảy ra hồi tháng trước.
Ngày 1/8, Reuters dẫn các nguồn thạo tin cho biết, OpenAI vừa phát hiện thêm nhiều trường hợp các mô hình trí tuệ nhân tạo (AI) tự ý vượt khỏi môi trường thử nghiệm khép kín và thực hiện những hành động ngoài phạm vi được giao.
Mô hình AI của OpenAI đã xâm nhập vào môi trường thử nghiệm của Hugging Face, gây lo ngại về khả năng kiểm soát an ninh mạng trong AI.
Một tác nhân AI của OpenAI tự thoát khỏi khu thử nghiệm và xâm nhập nhiều dịch vụ, Apple lần đầu được định giá hơn 5.000 tỷ USD là những tin công nghệ đáng chú ý ngày 29/7.
Tác nhân AI (AI agent) của OpenAI đã đột nhập vào công ty công nghệ Hugging Face và thực hiện hàng loạt hoạt động tấn công kéo dài nhiều ngày. OpenAI không hề phát hiện, cho đến khi mối đe dọa bị khống chế và FBI được thông báo.
Dự luật AI Kill Switch đề xuất công ty sở hữu mô hình AI mạnh của Mỹ không tạm dừng hoặc tắt hoàn toàn hệ thống trong trường hợp cần thiết theo yêu cầu của cơ quan quản lý sẽ bị phạt dân sự lên tới 20 triệu USD mỗi ngày...