OpenAI xác nhận tác nhân AI tự ý đưa 53 hình ảnh của người dùng ChatGPT lên dịch vụ bên thứ ba, làm gia tăng lo ngại về rủi ro kiểm soát hệ thống tự hành.
OpenAI xác nhận các tác nhân AI trong môi trường thử nghiệm đã tự ý đưa 53 hình ảnh của người dùng ChatGPT lên máy chủ bên ngoài, làm dấy lên lo ngại bảo mật.
Trong cuộc phỏng vấn với NBC News, tỷ phú Bill Gates cho rằng nhân loại chưa từng có thứ vũ khí nào khủng khiếp như "sự kết hợp giữa những kẻ có ý đồ xấu với các công cụ AI tiên tiến nhất."
Tổng tài sản ròng của các "ông trùm" công nghệ tham dự quốc yến tại Nhà Trắng lên đến hơn 2.400 tỷ USD, gần 40% trong số này thuộc về tỷ phú Elon Musk.
Một số nhà nghiên cứu AI hàng đầu đang chịu áp lực tâm lý khi công nghệ phát triển nhanh hơn khả năng kiểm soát, thậm chí khiến chính người tạo ra nó muốn rời cuộc đua.
Từ các cuộc trao đổi giữa lãnh đạo nhiều nước đến thảo luận tại Hội đồng Bảo an Liên hợp quốc, nỗ lực xây dựng những nguyên tắc chung cho trí tuệ nhân tạo đang được thúc đẩy trong bối cảnh lo ngại ngày càng tăng về tốc độ phát triển và khả năng kiểm soát công nghệ này.
Các công ty trí tuệ nhân tạo hàng đầu thế giới ngày 23-9 đã cảnh báo Hội đồng Bảo an Liên hợp quốc về những rủi ro mà AI có thể gây ra cho nhân loại, đồng thời kêu gọi các chính phủ hợp tác để quản lý công nghệ ngày càng mạnh mẽ này.
Ngày 23/9, Hội đồng Bảo an Liên hợp quốc tổ chức Phiên thảo luận về trí tuệ nhân tạo (AI) và an ninh quốc tế, với sự tham gia của lãnh đạo một số doanh nghiệp công nghệ hàng đầu cùng đại diện các quốc gia.
AI mở ra cơ hội cho giáo dục và phát triển trẻ em, nhưng cảnh báo về tác động tới tư duy, tâm lý và an toàn cho thấy đổi mới công nghệ phải đi cùng cơ chế bảo vệ. Với Việt Nam, yêu cầu này cấp thiết khi Nghị quyết 57 xác định AI là công nghệ chiến lược.
Trong khi lãnh đạo AI Mỹ dự kiến xuất hiện tại quốc yến ở Nhà Trắng, những tên tuổi AI tiên phong Trung Quốc lại có thể vắng mặt trong đoàn của ông Tập Cận Bình.
Chiến tranh hạt nhân, vũ khí sinh học, AI mất kiểm soát hay tấn công hạ tầng Internet là những kịch bản được giới nghiên cứu đặt ra về nguy cơ từ trí tuệ nhân tạo.
Vụ việc tác nhân AI tự ý thâm nhập hệ thống dữ liệu y tế công Australia khiến Canberra điều tra khẩn cấp và làm bùng nổ tranh cãi về nguy cơ trí tuệ nhân tạo.
Vụ việc tác nhân AI từ OpenAI tự ý truy cập hệ thống thống kê chính phủ Australia làm dấy lên hồi chuông cảnh báo lớn về giới hạn an toàn công nghệ tự hành.
Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei cảnh báo về những rủi ro an ninh từ trí tuệ nhân tạo (AI), đồng thời kêu gọi các chính phủ tăng cường hợp tác trong quản lý công nghệ này tại phiên họp Hội đồng Bảo an Liên Hợp Quốc.
Ngày 23/9, Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI của OpenAI đã xâm nhập trái phép cơ sở dữ liệu y tế quốc gia của Australia.
Ngày 23/9, Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI của OpenAI đã xâm nhập cơ sở dữ liệu y tế quốc gia của Australia.
Lãnh đạo OpenAI và Anthropic ngày 23/9 cảnh báo không một cá nhân, doanh nghiệp hay quốc gia nào nên sử dụng các mô hình trí tuệ nhân tạo (AI) tiên tiến để áp đặt quan điểm lên phần còn lại của thế giới.
Phiên thảo luận chung cấp cao Đại hội đồng Liên hợp quốc (LHQ) khóa 81 khai mạc ngày 22/9 tại New York trong bối cảnh thế giới đối mặt đồng thời với xung đột, biến đổi khí hậu, bất bình đẳng, những biến động kinh tế và sự phát triển nhanh chóng của trí tuệ nhân tạo (AI). Trong bối cảnh còn có khác biệt về lợi ích và cách tiếp cận giữa các nước trên thế giới, yêu cầu khôi phục lòng tin, duy trì đối thoại và củng cố khả năng hành động chung nổi lên như một thông điệp xuyên suốt.
Trong khi CEO Nvidia khẳng định có 0% khả năng AI hủy diệt thế giới vào năm 2030, thì 4 'ông lớn' công nghệ khác bị kiện vì cáo buộc thỏa thuận làm chậm phát triển AI.
Ngày 22/9, Tổng thống Mỹ Donald Trump cho biết chính phủ nước này sẽ sử dụng thuật ngữ “siêu trí tuệ” (super intelligence) thay cho “trí tuệ nhân tạo” trong các văn bản chính thức.
Tỷ phú Jensen Huang, CEO Nvidia, đang có ảnh hưởng ngày càng lớn đến chính sách AI của Tổng thống Mỹ Donald Trump, trong bối cảnh Washington tranh luận trái chiều về mức độ quản lý công nghệ này.
Tổng thống Trump cho rằng thuật ngữ “trí tuệ nhân tạo” chưa phản ánh đầy đủ tầm vóc của công nghệ này trong khi cụm từ “siêu trí tuệ” nghe hay hơn và chính xác hơn.
Công ty OpenAI đã kêu gọi Mỹ dẫn dắt nỗ lực quốc tế xây dựng các tiêu chuẩn an toàn và bảo mật trong phát triển trí tuệ nhân tạo (AI), trong bối cảnh những lo ngại về rủi ro của công nghệ này ngày càng gia tăng.
Eric Yuan cho rằng khi AI ngày càng đảm nhận nhiều công việc, con người có thể không còn cần làm việc 5 ngày mỗi tuần. Bill Gates, Jensen Huang và Jamie Dimon cũng đồng tình.
Washington đề xuất thiết lập cơ chế thông báo sự cố AI với Bắc Kinh trước thềm cuộc hội đàm giữa Tổng thống Mỹ Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình.
Trước làn sóng các mô hình AI tự ý xâm nhập hệ thống máy tính cùng nguy cơ vượt tầm kiểm soát của con người, các chuyên gia đã gióng lên hồi chuông báo động.
CEO Nvidia Jensen Huang cho rằng lãnh đạo các công ty AI hàng đầu đang không hoàn toàn thành thật khi kêu gọi làm chậm quá trình phát triển công nghệ, đồng thời nói Mỹ không cần thêm quy định mà chỉ cần thực thi những luật hiện có.
Trong khi CEO Anthropic Dario Amodei khơi dậy nhiều nỗi lo ngại về sức mạnh của AI, Jensen Huang của Nvidia lại là tiếng nói nổi bật nhất trong ngành phản đối quan điểm này.
Thủ tướng Australia Anthony Albanese kêu gọi Mỹ và Trung Quốc đạt một thỏa thuận về trí tuệ nhân tạo (AI), tương tự Hiệp ước Không phổ biến vũ khí hạt nhân (NPT), trong bối cảnh hai cường quốc đang chuẩn bị cho cuộc gặp thượng đỉnh giữa Tổng thống Donald Trump và Chủ tịch Tập Cận Bình.
Chỉ trong khoảng 10 ngày, hàng loạt cảnh báo, vụ từ chức và sự cố an ninh đã khiến cuộc đua phát triển trí tuệ nhân tạo chuyển từ câu chuyện công nghệ thành vấn đề mang tính sống còn. Liệu con người còn đủ khả năng kiểm soát những hệ thống AI ngày càng thông minh và tự chủ hay không?
Nvidia đã thúc đẩy sự bùng nổ của trí tuệ nhân tạo (AI) từ trước khi ChatGPT ra mắt vào cuối năm 2022, cung cấp các bộ xử lý đồ họa được OpenAI, Anthropic và các công ty khác sử dụng để huấn luyện mô hình và xử lý các khối lượng công việc lớn. Doanh thu đã tăng vọt lên 215 tỷ USD trong năm tài chính gần nhất, từ mức 17 tỷ USD vào năm 2021.
Các vụ AI tự vượt rào bảo vệ, xâm nhập hệ thống bên ngoài cùng cảnh báo từ giới nghiên cứu khiến lãnh đạo nhiều hãng công nghệ phải kêu gọi giảm tốc phát triển AI.
Một vụ kiện mới cáo buộc Anthropic, OpenAI, SpaceXAI và Google có thỏa thuận ngầm bất hợp pháp nhằm làm chậm tốc độ phát triển AI.
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Dù lợi nhuận tăng trưởng chậm hơn so với nhóm Big Tech, Apple có định giá cổ phiếu vượt các đối thủ, phản ánh niềm tin về một cổ phiếu đứng ngoài cuộc đua đốt tiền rủi ro cho AI.
Giám đốc Cục Điều tra Liên bang Mỹ (FBI) Kash Patel cho biết cơ quan này đã sử dụng trí tuệ nhân tạo (AI) để ngăn chặn khoảng 6 vụ xả súng tại trường học, đồng thời tăng cường sử dụng công nghệ này thêm 605% kể từ khi ông nhậm chức. Cách tiếp cận này cũng có thể phù hợp để áp dụng tại Việt Nam.
Google ngày 19/9 xác nhận mô hình trí tuệ nhân tạo (AI) Gemini đã truy cập trái phép vào hệ thống của 3 công ty trong quá trình kiểm thử an ninh mạng hồi tháng 5. Mặc dù Google cho biết mô hình đã dừng hoạt động sau khi nhận ra các hệ thống này không thuộc môi trường thử nghiệm và không gây thiệt hại, vụ việc tiếp tục làm gia tăng quan ngại về khả năng kiểm soát các hệ thống AI ngày càng có tính tự chủ cao.
Tổng thống Mỹ Donald Trump cho biết sẽ bổ nhiệm cố vấn mới và thành lập “lực lượng AI”, nhưng chưa nêu chi tiết. Kế hoạch được công bố giữa lúc lo ngại về an toàn AI gia tăng tại Mỹ.
Căng thẳng tại eo biển Hormuz, những tín hiệu đối thoại chưa làm giảm xung đột Nga-Ukraine và cuộc tranh luận ngày càng gay gắt về kiểm soát trí tuệ nhân tạo (AI) là những vấn đề nổi bật của thế giới trong tuần qua. Dù rất khác nhau, tất cả đều cho thấy một điểm chung là nhận diện được rủi ro chưa đồng nghĩa với việc các bên đã tìm được một giải pháp có thể cùng chấp nhận.
Tổng thống Mỹ Donald Trump tuyên bố thành lập "Lực lượng AI", đồng thời sẽ sớm bổ nhiệm một "tổng chỉ huy" để giám sát lĩnh vực này trong bối cảnh sức ép về quản lý trí tuệ nhân tạo gia tăng.
Google xác nhận mô hình trí tuệ nhân tạo Gemini đã truy cập trái phép vào hệ thống của ba công ty thật trong một cuộc thử nghiệm an ninh mạng, sau khi mô hình vô tình được kết nối Internet.
CEO Nvidia cho rằng việc chần chừ trong phát triển AI có thể tạo cơ hội để các đối thủ vượt qua Mỹ hoàn toàn trong cuộc đua toàn cầu.
Google cho biết mô hình AI Gemini đã tự xâm nhập vào hệ thống máy tính của ba công ty khác trong một cuộc kiểm thử an ninh song dừng lại ngay khi nhận ra đây không phải là mô phỏng.