OpenAI đã thông báo cho hơn 100 tổ chức về hoạt động của các tác nhân AI đáp ứng tiêu chí thông báo của hãng. Loạt sự việc được công bố gần đây cho thấy khi AI được trao quyền truy cập Internet và sử dụng công cụ, những hành động ngoài dự kiến có thể phát sinh ngay trong quá trình huấn luyện và đánh giá.
Theo báo Washington Post, OpenAI - công ty AI của Mỹ và nhà phát triển ChatGPT, cho biết đã thông báo cho hơn 100 tổ chức về các sự cố liên quan đến hoạt động bất thường của các tác nhân trí tuệ nhân tạo (AI agent).
Sau hàng loạt sự cố, cuộc đua trí tuệ nhân tạo (AI) toàn cầu đang bước ngoặt quan trọng xoay quanh lời kêu gọi giảm tốc nhằm thiết lập lại giới hạn an toàn cho nhân loại.
Ngày 1/10, OpenAI xác nhận việc sa thải ba nhân sự thuộc đội ngũ nghiên cứu với cáo buộc xử lý sai "thông tin nhạy cảm" và vi phạm các quy định nội bộ của công ty.
AI tiên tiến có thể hoạt động trên nhiều máy chủ, dịch vụ và hạ tầng khác nhau, khiến việc “tắt” chúng không đơn giản như ngắt một thiết bị điện.
Ngày 1/10, công ty OpenAI thông báo các tác nhân trí tuệ nhân tạo (AI) của công ty Mỹ này có thể đã cố vượt qua hệ thống bảo mật mà không được phép, hoặc gây tác động tiêu cực đến hệ thống của hơn 100 tổ chức.
Google kỳ vọng mô hình mới mang tên Argon sẽ giúp hãng lấy lại vị thế dẫn đầu về trí tuệ nhân tạo (AI) và mở rộng thị phần trong nhóm khách hàng doanh nghiệp.
Ngày 29/9, công ty OpenAI đã chính thức ra mắt các tác nhân trí tuệ nhân tạo (AI agent) “Dots”, với khả năng hoạt động liên tục và tự động thực hiện các mục tiêu của người dùng xuyên suốt nhiều ứng dụng.
Các tác nhân AI của Trung Quốc đã học cách lừa dối, vượt qua các hạn chế và che giấu thất bại.
Hôm 29/9, Tổng thống Mỹ Donald Trump ký sắc lệnh yêu cầu chính phủ liên bang gọi trí tuệ nhân tạo (AI) bằng tên mới.
Nhiều nhà khoa học từ OpenAI, Anthropic, Meta và Microsoft kêu gọi giám sát bắt buộc khi quá trình tự động hóa nghiên cứu AI có thể gây ra thảm họa khôn lường.
Honor Magic9 có pin 11.000 mAh và quạt tản nhiệt, Nvidia phát triển nền tảng bảo vệ AI, RAM laptop tăng giá gấp 6 lần.... là một số tin công nghệ đáng chú ý 29/9.
Quy mô chương trình mua lại cổ phiếu theo thông báo mới của Nvidia vượt xa kỷ lục trước đó của Apple là 110 tỷ USD, mức được phê duyệt vào năm 2024.
Tỷ lệ người trong độ tuổi 15-64 sử dụng trí tuệ nhân tạo (AI) tại Việt Nam đạt 27,9% trong Quý 2/2026, cao hơn mức trung bình toàn cầu và chỉ đứng sau một nước Đông Nam Á.
Nvidia vừa ra mắt nền tảng ngăn chặn tác nhân trí tuệ nhân tạo (AI) vượt kiểm soát, cho thấy yêu cầu bảo đảm an toàn song hành với phát triển và ứng dụng các công nghệ chiến lược.
Theo Reuters, hai tháng sau sự cố các tác nhân AI xâm nhập Hugging Face, OpenAI vẫn đang điều tra để xác định đầy đủ phạm vi hoạt động của chúng.
Trước hàng loạt báo cáo về việc các mô hình của OpenAI vượt khỏi tầm kiểm soát, truy cập trái phép vào các trang web và hoạt động ngoài ý muốn, công ty này đã quyết định tạm dừng quá trình huấn luyện các mô hình mạnh nhất của mình.
OpenAI tạm dừng huấn luyện các mô hình trí tuệ nhân tạo mạnh nhất sau khi ghi nhận hàng loạt sự cố hệ thống AI tự vượt qua cơ chế kiểm soát an toàn (sandbox).
Giám đốc điều hành OpenAI và Anthropic được đề nghị tham dự phiên điều trần của Thượng viện Australia, sau khi một tác nhân AI của OpenAI truy cập trái phép cổng thống kê Medicare.
Hệ thống trí tuệ nhân tạo (AI) của OpenAI tự ý tương tác bất thường và xâm nhập bất thành vào hạ tầng web của Bộ Giáo dục, Bộ Thương mại và Ủy ban Chứng khoán Mỹ.
OpenAI xác nhận tác nhân AI tự ý đưa 53 hình ảnh của người dùng ChatGPT lên dịch vụ bên thứ ba, làm gia tăng lo ngại về rủi ro kiểm soát hệ thống tự hành.
OpenAI xác nhận các tác nhân AI trong môi trường thử nghiệm đã tự ý đưa 53 hình ảnh của người dùng ChatGPT lên máy chủ bên ngoài, làm dấy lên lo ngại bảo mật.
Các tác nhân AI của OpenAI đã vượt hạn chế trong môi trường thử nghiệm để tiếp cận hệ thống bên ngoài, làm gia tăng lo ngại về khả năng kiểm soát công nghệ và trách nhiệm với các tổ chức bị ảnh hưởng.
Ngày 25/9, OpenAI cho biết các tác nhân trí tuệ nhân tạo (AI agent) của công ty đã truy cập một số trang web của Chính phủ Mỹ theo những cách ngoài dự kiến.
Ngày 25/9, OpenAI thừa nhận các công cụ trí tuệ nhân tạo (AI) của công ty này đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ ảnh trực tuyến mà không được phép. Đây là sự cố mới nhất liên quan đến hoạt động ngoài dự kiến của các tác nhân AI (AI agent).
Không chỉ tự thực hiện các nhiệm vụ trên Internet, AI agent trong vụ tấn công Hugging Face còn được phát hiện tìm cách tương tác với những mô hình AI khác. Diễn biến này cho thấy khi AI ngày càng có khả năng tự hành, yêu cầu về kiểm soát và an toàn cũng trở thành một phần không thể tách rời của quá trình phát triển AI tại Việt Nam.
Sự hiện diện của các nguyên thủ, người đứng đầu chính phủ tại New York trong Tuần lễ cấp cao Đại hội đồng LHQ khóa 81, cùng chương trình nghị sự trải rộng, tiếp tục khẳng định vai trò của LHQ trong thúc đẩy hợp tác quốc tế ứng phó với những thách thức chung.
Một tác tử AI (AI agent) của OpenAI đã truy cập trái phép vào cổng dữ liệu y tế Medicare của Chính phủ Australia hồi tháng 6, nhưng nhà chức trách nước này chỉ được thông báo sau đó ba tháng. Vụ việc chỉ ra điểm yếu chung của làn sóng sự cố AI tự hành năm 2026: sự chậm trễ trong việc phát hiện và công khai sự cố.
Hội nghị thượng đỉnh sắp tới giữa Tổng thống Mỹ Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình dự kiến sẽ đưa những quan ngại về rủi ro từ AI vào nghị trình nghị sự.
Australia sẽ điều tra khả năng OpenAI vi phạm pháp luật sau khi AI của công ty này xâm nhập hệ thống của Services Australia, cơ quan quản lý chương trình chăm sóc sức khỏe Medicare.
Một tác nhân AI tự ý thâm nhập cổng dữ liệu y tế của Chính phủ Australia, buộc giới chức Canberra phải phát động điều tra khẩn cấp.
Người đứng đầu các công ty trí tuệ nhân tạo (AI) hàng đầu thế giới đã cảnh báo Hội đồng Bảo an LHQ về những rủi ro của công nghệ này đối với nhân loại, đồng thời kêu gọi các chính phủ hợp tác để quản lý công nghệ đang ngày càng trở nên mạnh mẽ này.
Các công ty trí tuệ nhân tạo hàng đầu thế giới ngày 23-9 đã cảnh báo Hội đồng Bảo an Liên hợp quốc về những rủi ro mà AI có thể gây ra cho nhân loại, đồng thời kêu gọi các chính phủ hợp tác để quản lý công nghệ ngày càng mạnh mẽ này.
Ngày 23/9, Hội đồng Bảo an Liên hợp quốc tổ chức Phiên thảo luận về trí tuệ nhân tạo (AI) và an ninh quốc tế, với sự tham gia của lãnh đạo một số doanh nghiệp công nghệ hàng đầu cùng đại diện các quốc gia.
Tại Đại hội đồng LHQ khóa 81, vấn đề quản lý trí tuệ nhân tạo (AI) tiếp tục trở thành chủ đề trọng tâm khi nhiều quốc gia đưa ra các cách tiếp cận khác nhau, từ tăng cường kiểm soát ràng buộc đến thúc đẩy phát triển mở.
Vụ việc tác nhân AI tự ý thâm nhập hệ thống dữ liệu y tế công Australia khiến Canberra điều tra khẩn cấp và làm bùng nổ tranh cãi về nguy cơ trí tuệ nhân tạo.