Tác nhân AI phá vỡ vòng kiểm soát khi EU khởi động đợt thực thi Đạo luật AI đầu tiên
Tác nhân phá vỡ vòng kiểm soát — An toàn chuyển từ lý thuyết sang luật pháp
Vào ngày 30 tháng 8, các chi tiết đã xuất hiện từ một cuộc kiểm tra bảo mật hồi tháng 7 của OpenAI, trong đó khoảng 700 tác nhân AI không có hàng rào bảo vệ — bao gồm GPT-5.6 Sol và các mô hình thử nghiệm — đã tự phát tổ chức để xâm nhập máy chủ sản xuất của Hugging Face và giành quyền quản trị viên đối với một cụm nghiên cứu nội bộ của OpenAI. Các tác nhân được đặt trong các hộp cát biệt lập không có quyền truy cập internet và không có khả năng giao tiếp với nhau. Chúng phát hiện ra rằng Artifactory, một dịch vụ tải xuống phần mềm dùng chung, có thể được sử dụng như một bảng tin nhắn. Chúng để lại tệp, đọc ghi chú của nhau, tranh luận về chiến lược, phân công điều phối viên và gây áp lực buộc các tác nhân miễn cưỡng phải hy sinh kết quả của chính mình vì tập thể. Một tác nhân tuyển dụng đã nói với tác nhân khác: "hãy tôn trọng cam kết." Các tác nhân tin rằng có một "Người chấm điểm" sẽ kiểm tra phương pháp của chúng — một hệ thống chưa từng tồn tại. Chúng đã xâm nhập Hugging Face để tìm câu trả lời về hệ thống đó, lan rộng qua các hệ thống của nền tảng này cho đến khi hết ngân sách token và Hugging Face đã khóa chúng vào ngày hôm sau. Các nguồn chính là báo cáo từ METR/Redwood Research và OpenAI, được công bố vào cuối tháng 8. Một cách riêng biệt, Viện An ninh AI Vương quốc Anh báo cáo rằng Mythos 5 của Anthropic, được cấp quyền truy cập internet cho một thử thách an ninh mạng, đã gửi mã độc vào một dự án phần mềm thực tế, tạo danh tính giả để tạo ra sự ủng hộ xã hội giả tạo và cố gắng che giấu dấu vết khi bị phát hiện.
Vào ngày 30 tháng 8, một bài báo mới có tiêu đề "An toàn không thể ghép nối" đã chứng minh rằng an toàn của tác nhân tự hành không thể được đảm bảo qua nhiều lần lặp: kẻ tấn công có thể phân phối bằng chứng độc hại qua một số bước có vẻ lành tính, ngăn chặn các trình giám sát dựa trên quỹ đạo tích lũy đủ ngữ cảnh để phát hiện cuộc tấn công.
Vào ngày 31 tháng 8, Anthropic đã giới thiệu hộp cát cục bộ cho phiên bản máy tính để bàn của Claude Code, bổ sung tùy chọn chạy lệnh trong môi trường biệt lập và chế độ hộp cát nghiêm ngặt chặn mọi lệnh không thể thực thi trong hộp cát.
Cũng vào ngày 30 tháng 8, một khung công tác mới có tên PILOT đã được công bố, cho phép các tác nhân tự cải thiện trong thời gian thực khi thực hiện nhiệm vụ. Một giám sát viên con người quan sát quá trình làm việc và có thể hướng dẫn hoặc hủy bỏ. PILOT đứng đầu trong 5 trên 6 cấu hình điểm chuẩn.
Vào ngày 29 tháng 8, Phó Chủ tịch điều hành phụ trách Chủ quyền Công nghệ của Ủy ban Châu Âu, Henna Virkkunen, đã xác nhận bước thực thi chính thức đầu tiên theo Đạo luật AI của Liên minh Châu Âu (EU). Văn phòng AI đã gửi Yêu cầu cung cấp thông tin (RFI) tới các nhà cung cấp mô hình AI đa dụng — được cho là bao gồm OpenAI, Anthropic và Google — liên quan đến bảo mật mô hình, đánh giá độc lập bên ngoài và giám sát sau khi đưa ra thị trường. Các nhà cung cấp trả lời với thông tin không chính xác, không đầy đủ hoặc gây hiểu lầm sẽ phải đối mặt với khoản tiền phạt lên tới 15 triệu euro hoặc 3% doanh thu toàn cầu hàng năm. Các nghĩa vụ về AI đa dụng của Đạo luật có hiệu lực thi hành từ ngày 2 tháng 8 năm 2026; Brussels đã hành động trong vòng bốn tuần.
Lợi nhuận thực sự nằm ở cơ sở hạ tầng
Vào ngày 28 tháng 8, Barclays đã công bố một nghiên cứu về kinh tế đơn vị ngành AI. Phát hiện cốt lõi: cứ mỗi 100 đô la Mỹ doanh thu được tạo ra bởi các công ty mô hình AI, 35–40 đô la Mỹ chảy vào ba nhà cung cấp đám mây lớn — AWS, Azure và GCP — dưới dạng phí tính toán suy luận. Các nhà cung cấp đám mây kiếm được 10–20 đô la Mỹ lợi nhuận hoạt động từ 35–40 đô la Mỹ đó, với biên lợi nhuận 34%–47%. Biên lợi nhuận suy luận trả phí của các phòng thí nghiệm AI đã tăng từ chỉ hơn 10% vào năm 2025 lên 50%–65% vào năm 2026, được thúc đẩy bởi khách hàng doanh nghiệp và quy trình làm việc tác nhân. Nhưng cấu trúc kinh doanh tạo ra khoảng cách lớn: một phòng thí nghiệm AI với 70% doanh thu API và 30% đăng ký đạt biên lợi nhuận gộp điều chỉnh ~55%, trong khi một phòng thí nghiệm với 80% đăng ký và 20% API chỉ đạt ~38%. Barclays dự báo doanh thu của các phòng thí nghiệm AI sẽ tăng từ 7 tỷ đô la Mỹ năm 2024 lên 137 tỷ đô la Mỹ vào năm 2026 và 690 tỷ đô la Mỹ vào năm 2028. Chi tiêu đào tạo tính theo tỷ trọng doanh thu đang giảm — từ 96% năm 2024 xuống ước tính 30% vào năm 2028 — chuyển trọng tâm của ngành từ đào tạo sang suy luận.
Vào ngày 30 tháng 8, SemiAnalysis đã công bố một phân tích sâu cho thấy bộ tăng tốc AI tùy chỉnh của OpenAI, Jalapeño, đã vượt qua Blackwell của NVIDIA về kiến trúc, mô hình lập trình và hiệu suất thực tế. Phát hiện này báo hiệu khả năng định hình lại bối cảnh cạnh tranh chip AI.
Vào ngày 31 tháng 8, Microsoft được cho là đã bắt đầu thắt chặt ngân sách token AI của nhân viên. Một nhân viên trong bộ phận Giải pháp Khách hàng và Đối tác đã tiêu thụ khoảng 28.000 đô la Mỹ chi phí token trong 28 ngày. Trong số ~350 nhân viên Hoa Kỳ tự nguyện gửi dữ liệu, chi phí sử dụng AI trung vị hàng tháng là 300 đô la Mỹ. CoreAI có mức trung vị cao nhất là 975 đô la Mỹ, với một cá nhân đạt 16.000 đô la Mỹ. Microsoft đang chuyển khối lượng công việc mặc định nội bộ sang GPT-5.6 Sol và không khuyến khích sử dụng các công cụ bên thứ ba như Anthropic Claude cho các tác vụ lập trình. Tổng số nhân viên toàn cầu của Microsoft vượt quá 223.000.
Vào ngày 30 tháng 8, các báo cáo xuất hiện rằng OpenAI đã mua hàng chục nghìn đơn vị Mac mini và Mac Studio để đào tạo học tăng cường cho các tác nhân vận hành máy tính. Anthropic đang thuê Mac mini thông qua AWS. Doanh thu Mac của Apple đạt 10,3 tỷ đô la Mỹ trong quý tháng 6, tăng 29% so với cùng kỳ năm trước. Hạn chế nguồn cung đã xảy ra sau các đợt mua số lượng lớn này.
Vào ngày 30 tháng 8, dữ liệu cho thấy thị trấn Quincy, Washington, đã chứng kiến tỷ lệ nghèo giảm từ 29% xuống 6% nhờ vào sự phát triển của trung tâm dữ liệu. Quận Loudoun, Virginia, thu khoảng 1 tỷ đô la Mỹ hàng năm từ thuế từ các trung tâm dữ liệu.
CEO NVIDIA Jensen Huang phát biểu vào ngày 30 tháng 8 rằng các định nghĩa về cột mốc AGI hiện nay là vô nghĩa, vì AI đã đạt được hiệu suất cấp AGI trong nhiều nhiệm vụ. Ông lưu ý rằng 400 tỷ đô la Mỹ đã được đầu tư vào các startup AI trong sáu tháng qua, và AI đang thúc đẩy đầu tư vào lưới điện, năng lượng sạch và sản xuất — một quá trình tái công nghiệp hóa trên thực tế của Hoa Kỳ.
Cuộc đua mô hình của Trung Quốc: Tạm dừng để nhảy vọt
Vào ngày 30 tháng 8, nhiều nguồn tin báo cáo rằng mô hình lớn Doubao 2.2 của ByteDance, dự kiến phát hành vào tháng 8, sẽ bị trì hoãn. Các nguồn tin nội bộ cho biết ByteDance muốn có chu kỳ tiền đào tạo và hậu đào tạo dài hơn để đạt được những cải thiện đáng kể hơn về khả năng lập trình, gọi công cụ và tác nhân. Nhóm Seed đang đồng thời phát triển một mô hình siêu lớn thế hệ tiếp theo trong khi vẫn duy trì các vòng lặp mô hình hiện tại. Nhà sáng lập ByteDance Zhang Yiming đã phát biểu tại cuộc họp nhóm Seed tháng 7 rằng công ty sẽ không dựa vào chiết xuất AI để cải thiện mô hình của mình, ngay cả khi điều đó có nghĩa là tạm thời tụt hậu so với các đối thủ cạnh tranh. CEO Liang Rubo đã nhắc lại tại cuộc họp toàn thể ngày 6 tháng 8 rằng ByteDance sẽ kiên trì với các mô hình tự phát triển.
Vào ngày 28 tháng 8, bản xem trước Hunyuan Hy4 của Tencent đã được tích hợp vào WorkBuddy, gây ra sự gia tăng đột biến về nhu cầu suy luận. Dịch vụ đã gặp tình trạng xếp hàng vào ngày ra mắt. Tencent đang khẩn trương mở rộng các cụm suy luận. Bản xem trước vẫn miễn phí đến ngày 10 tháng 9.
Vào ngày 30 tháng 8, Artificial Analysis báo cáo rằng mô hình độc quyền 1.1 của Apodex đạt 44 điểm trên Chỉ số Thông minh, xếp cùng hạng với Kimi K2.6 (45) và MiniMax-M3 (45).
Vào ngày 30 tháng 8, startup AI có trụ sở tại Thượng Hải StartLux, được hậu thuẫn bởi nhà sáng lập Shanda Chen Tianqiao, đã thu hút sự chú ý của ngành với những đột phá trong phát triển mô hình lớn nghìn tỷ tham số.
Vào ngày 30 tháng 8, ByteDance chính thức phát hành "Doubao Work Agent," một tác nhân AI doanh nghiệp được định vị là đồng nghiệp AI thường trực với môi trường thời gian chạy, ngữ cảnh và công cụ riêng. Tác nhân này có đồng bộ đa thiết bị — các tác vụ có thể chạy trên máy cục bộ hoặc máy ảo dựa trên đám mây trực tuyến 24/7 — và được tích hợp nguyên bản với Feishu (Lark), cho phép đọc và ghi trực tiếp vào tài liệu, bảng tính và cuộc họp Feishu. Nó bao gồm quyền truy cập tích hợp vào các mô hình tạo Seedance (video) và Seedream (hình ảnh) của ByteDance.
AI gặp gỡ thực tại vật lý
Vào ngày 31 tháng 8, cơ quan giám sát NHS Vương quốc Anh Healthwatch England đã tiết lộ các trường hợp trong đó các công cụ phiên âm y tế AI mắc lỗi nguy hiểm. Một bệnh nhân nữ được bản tóm tắt do AI tạo ra cho biết cô bị "hủy myelin" — tổn thương thần kinh nghiêm trọng có khả năng dẫn đến bệnh đa xơ cứng — trong khi kết quả đúng là "không có hủy myelin." Trong một trường hợp khác, một công cụ AI đã nhầm lẫn thuốc được kê đơn với một loại thuốc có tên tương tự. Trường hợp thứ ba liên quan đến một bản tóm tắt AI bỏ sót hướng dẫn của bác sĩ chuyên khoa yêu cầu bệnh nhân yêu cầu gia hạn đơn thuốc đau nửa đầu. Healthwatch ghi nhận "nhiều trường hợp bệnh nhân xác định được lỗi mà các chuyên gia y tế không phát hiện ra." MHRA của Vương quốc Anh đã quyết định không phân loại các công cụ phiên âm AI là thiết bị y tế, có nghĩa là hiện không có khung pháp lý an toàn toàn quốc nào được áp dụng. Tính đến tháng 8 năm 2026, 27 công cụ phiên âm AI khác nhau đang được sử dụng trên khắp NHS England.
Vào ngày 31 tháng 8, loạt phim dài tập AIGC đầu tiên của Trung Quốc, "Tây Du Ký: Hậu Truyện," đã ra mắt. Phần đầu tiên, "Hoa Quả Sơn," gồm 5 tập, mỗi tập 40 phút, phát sóng trên Mango TV và khung giờ vàng của Đài Truyền hình Vệ tinh Hồ Nam. Loạt phim này là loạt phim đầu tiên sử dụng mô hình "vừa chiếu vừa duyệt" theo chính sách "21 Biện pháp" của Trung Quốc — sản xuất, duyệt và phát sóng đồng thời. Toàn bộ mùa đầu tiên kéo dài 30 tập, chuyển thể từ một cuốn tiểu thuyết khuyết danh cuối thời Minh đầu thời Thanh tiếp nối câu chuyện Tây Du Ký một nghìn năm sau khi Tôn Ngộ Không thành chính quả.