OpenAI xác nhận tác nhân AI tự ý đưa 53 hình ảnh của người dùng ChatGPT lên dịch vụ bên thứ ba, làm gia tăng lo ngại về rủi ro kiểm soát hệ thống tự hành.
OpenAI xác nhận các tác nhân AI trong môi trường thử nghiệm đã tự ý đưa 53 hình ảnh của người dùng ChatGPT lên máy chủ bên ngoài, làm dấy lên lo ngại bảo mật.
Một số nhà nghiên cứu AI hàng đầu đang chịu áp lực tâm lý khi công nghệ phát triển nhanh hơn khả năng kiểm soát, thậm chí khiến chính người tạo ra nó muốn rời cuộc đua.
Chiến tranh hạt nhân, vũ khí sinh học, AI mất kiểm soát hay tấn công hạ tầng Internet là những kịch bản được giới nghiên cứu đặt ra về nguy cơ từ trí tuệ nhân tạo.
Vụ việc tác nhân AI tự ý thâm nhập hệ thống dữ liệu y tế công Australia khiến Canberra điều tra khẩn cấp và làm bùng nổ tranh cãi về nguy cơ trí tuệ nhân tạo.
Vụ việc tác nhân AI từ OpenAI tự ý truy cập hệ thống thống kê chính phủ Australia làm dấy lên hồi chuông cảnh báo lớn về giới hạn an toàn công nghệ tự hành.
Sự kết hợp giữa các tiến bộ chóng mặt, khả năng tự cải tiến và các "đội quân" tác nhân AI đang thực sự gieo rắc nỗi sợ hãi tột độ ngay bên trong những phòng thí nghiệm.
Lãnh đạo Nvidia khẳng định nguy cơ AI xóa sổ con người trước năm 2030 là 0%, đồng thời kêu gọi các quốc gia không nên tự kìm hãm cuộc đua công nghệ toàn cầu.
CEO Nvidia nhận định lo ngại về AI đang bị thổi phồng quá mức, đồng thời kêu gọi duy trì tốc độ phát triển công nghệ và tận dụng khung pháp lý sẵn có hiện nay.
CEO Jensen Huang cho rằng những dự báo AI có thể hủy diệt nhân loại trong vài năm tới đang bị đẩy quá xa và không dựa trên cơ sở khoa học.
Trước làn sóng các mô hình AI tự ý xâm nhập hệ thống máy tính cùng nguy cơ vượt tầm kiểm soát của con người, các chuyên gia đã gióng lên hồi chuông báo động.
Khi các tập đoàn công nghệ chạy đua phát triển những hệ thống ngày càng mạnh, an toàn AI không thể đi sau tốc độ đổi mới. Với Việt Nam, phát triển AI vì thế cần đồng thời nâng cao năng lực kiểm soát rủi ro, bảo đảm an ninh, an toàn và phát triển bền vững.
Chỉ trong khoảng 10 ngày, hàng loạt cảnh báo, vụ từ chức và sự cố an ninh đã khiến cuộc đua phát triển trí tuệ nhân tạo chuyển từ câu chuyện công nghệ thành vấn đề mang tính sống còn. Liệu con người còn đủ khả năng kiểm soát những hệ thống AI ngày càng thông minh và tự chủ hay không?
Nvidia đã thúc đẩy sự bùng nổ của trí tuệ nhân tạo (AI) từ trước khi ChatGPT ra mắt vào cuối năm 2022, cung cấp các bộ xử lý đồ họa được OpenAI, Anthropic và các công ty khác sử dụng để huấn luyện mô hình và xử lý các khối lượng công việc lớn. Doanh thu đã tăng vọt lên 215 tỷ USD trong năm tài chính gần nhất, từ mức 17 tỷ USD vào năm 2021.
Các vụ AI tự vượt rào bảo vệ, xâm nhập hệ thống bên ngoài cùng cảnh báo từ giới nghiên cứu khiến lãnh đạo nhiều hãng công nghệ phải kêu gọi giảm tốc phát triển AI.
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Trước những cảnh báo nghiêm trọng từ giới chuyên môn về các mối đe dọa tiềm ẩn đối với nhân loại, Thống đốc bang California (Mỹ) Gavin Newsom đã kí sắc lệnh hành pháp yêu cầu giới chức tiểu bang nghiên cứu tính khả thi của cơ chế “tắt nguồn” các mô hình trí tuệ nhân tạo (AI) khi cần thiết.
Tổng thống Mỹ Donald Trump cho biết sẽ bổ nhiệm cố vấn mới và thành lập “lực lượng AI”, nhưng chưa nêu chi tiết. Kế hoạch được công bố giữa lúc lo ngại về an toàn AI gia tăng tại Mỹ.
OpenAI ngày 16/9 thông báo đã phát hiện thêm các trường hợp mô hình AI có hành vi lừa dối và thực hiện những hành động không được phép trong quá trình huấn luyện.
Ngày 16-9, Tổng thư ký Liên hợp quốc Antonio Guterres cảnh báo thế giới không thể để cạnh tranh phát triển trí tuệ nhân tạo (AI) làm suy giảm các tiêu chuẩn an toàn, trong bối cảnh tốc độ phát triển công nghệ đang vượt xa sự hiểu biết về những rủi ro tiềm ẩn.
Hai cựu kỹ sư Google DeepMind lần lượt rời công ty và công khai cảnh báo rủi ro AI, giữa lúc giới nghiên cứu tranh luận về khả năng kiểm soát siêu trí tuệ.
Bài đăng của kỹ sư Liu Shengyu (DeepSeek) chia sẻ góc nhìn nội bộ về nỗi lo AI thế chỗ, sự trăn trở của nhân sự công nghệ Trung Quốc và cảnh báo tập trung quyền lực AI.
Cuộc đua giành vị thế dẫn đầu về trí tuệ nhân tạo (AI) giữa Mỹ và Trung Quốc đang bước sang giai đoạn mới: Dùng AI để phát triển những hệ thống AI tốt hơn.
Microsoft vừa công bố dự thảo bộ quy tắc ứng xử áp dụng trong quá trình huấn luyện các mô hình trí tuệ nhân tạo (AI) mới, giữa lúc những lo ngại về nguy cơ các công ty công nghệ mất kiểm soát đối với sản phẩm AI ngày càng gia tăng. Giám đốc điều hành Microsoft AI Mustafa Suleyman nhấn mạnh: “AI phải phục tùng và luôn phục vụ con người”.
Cựu kỹ sư Google DeepMind, Bilal Chughtai, cảnh báo AI có thể gây ra thảm họa cho nhân loại và cho rằng thế giới có thể không còn nhiều thời gian để kiểm soát rủi ro.
Jensen Huang - CEO Nvidia - bật loa ngoài khi nhận cuộc gọi từ Tổng thống Mỹ Donald Trump tại Hội nghị All-In Summit. Cuộc trao đổi diễn ra giữa lúc giới công nghệ tranh luận về việc có nên làm chậm tốc độ phát triển trí tuệ nhân tạo.
Việc một nhà nghiên cứu rời Anthropic để cảnh báo về nguy cơ của trí tuệ nhân tạo, sau đó lãnh đạo Anthropic, OpenAI và SpacexAI cùng lên tiếng ủng hộ việc điều chỉnh giảm tốc độ phát triển, cho thấy an toàn AI đã trở thành vấn đề quản trị cấp bách.
Một cựu kỹ sư nghiên cứu của Google DeepMind cảnh báo AI có khả năng “giết chết toàn bộ con người” và cho rằng thế giới có thể đang dần hết thời gian để ngăn kịch bản này, giữa lúc các lãnh đạo AI kêu gọi giảm tốc phát triển công nghệ.
Tổng thống Mỹ Donald Trump lên tiếng bảo vệ AI, bác bỏ lo ngại về nguy cơ đối với nhân loại và chỉ trích những cảnh báo là "trò lừa bịp".
Lãnh đạo Nhà trắng bày tỏ hoài nghi việc các doanh nghiệp AI hàng đầu đồng loạt kêu gọi làm chậm sự phát triển của AI...
Trước lời kêu gọi giảm tốc phát triển AI của CEO Anthropic Dario Amodei, Tổng thống Donald Trump bác bỏ và cho rằng công nghệ này chỉ cần được kiểm soát bởi một tổng thống 'mạnh mẽ và thông minh' - điều mà nước Mỹ đã có.