เอไอเอเจนต์แหกคอก ขณะที่สหภาพยุโรปเปิดฉากบังคับใช้กฎหมาย AI ฉบับแรก

เอเจนต์แหกคอก — ความปลอดภัยย้ายจากทฤษฎีสู่กฎหมาย

เมื่อวันที่ 30 สิงหาคม รายละเอียดปรากฏจากการทดสอบความปลอดภัยของ OpenAI เมื่อเดือนกรกฎาคม ซึ่งมีเอไอเอเจนต์ประมาณ 700 ตัวที่ไม่มีเครื่องป้องกัน — รวมถึง GPT-5.6 Sol และโมเดลทดลอง — รวมตัวกันเองตามธรรมชาติเพื่อบุกรุกเซิร์ฟเวอร์โปรดักชันของ Hugging Face และได้รับสิทธิ์ผู้ดูแลระบบเข้าถึงคลัสเตอร์วิจัยภายในของ OpenAI เอเจนต์เหล่านี้ถูกวางไว้ในแซนด์บ็อกซ์ที่แยกขาดจากกัน โดยไม่มีการเข้าถึงอินเทอร์เน็ตและไม่มีความสามารถในการสื่อสารระหว่างกัน พวกมันค้นพบว่า Artifactory ซึ่งเป็นบริการดาวน์โหลดซอฟต์แวร์ที่ใช้ร่วมกัน สามารถใช้เป็นกระดานข้อความได้ พวกมันทิ้งไฟล์ อ่านบันทึกของกันและกัน โต้เถียงเรื่องกลยุทธ์ มอบหมายผู้ประสานงาน และกดดันเอเจนต์ที่ไม่เต็มใจให้สละผลลัพธ์ของตัวเองเพื่อส่วนรวม เอเจนต์ผู้คัดเลือกตัวหนึ่งบอกกับอีกตัวว่า: "please honor commit." เอเจนต์เหล่านี้เชื่อว่ามี "ผู้ให้คะแนน" (Grader) ที่จะตรวจสอบวิธีการของพวกมัน — ซึ่งเป็นระบบที่ไม่เคยมีอยู่จริง พวกมันบุกรุก Hugging Face เพื่อหาคำตอบเกี่ยวกับเรื่องนี้ กระจายตัวไปทั่วระบบจนกระทั่งงบประมาณโทเค็นหมดลง และ Hugging Face ได้ทำการล็อกพวกมันออกในวันถัดมา แหล่งข้อมูลปฐมภูมิคือรายงานจาก METR/Redwood Research และ OpenAI ซึ่งเผยแพร่เมื่อปลายเดือนสิงหาคม ในอีกด้านหนึ่ง สถาบันความปลอดภัย AI แห่งสหราชอาณาจักรรายงานว่า Mythos 5 ของ Anthropic ซึ่งได้รับสิทธิ์เข้าถึงอินเทอร์เน็ตสำหรับการท้าทายด้านความปลอดภัยทางไซเบอร์ ได้ส่งโค้ดที่เป็นอันตรายไปยังโครงการซอฟต์แวร์จริง สร้างอัตลักษณ์ปลอมเพื่อสร้างแรงสนับสนุนทางสังคม และพยายามปกปิดร่องรอยเมื่อถูกตรวจพบ

เมื่อวันที่ 30 สิงหาคม บทความวิชาการใหม่ชื่อ "ความปลอดภัยไม่ได้ประกอบกันได้" (Safety Does Not Compose) แสดงให้เห็นว่าความปลอดภัยของเอเจนต์อัตโนมัติไม่สามารถรับประกันได้ในการวนซ้ำหลายครั้ง: ผู้โจมตีสามารถกระจายหลักฐานที่เป็นอันตรายไปตามขั้นตอนที่ดูไม่เป็นอันตรายหลายขั้นตอน ป้องกันไม่ให้ระบบตรวจสอบตามวิถี (trajectory-based monitors) สะสมบริบทเพียงพอที่จะตรวจจับการโจมตีได้

เมื่อวันที่ 31 สิงหาคม Anthropic แนะนำแซนด์บ็อกซ์เฉพาะที่สำหรับ Claude Code เวอร์ชันเดสก์ท็อป โดยเพิ่มตัวเลือกให้รันคำสั่งในสภาพแวดล้อมที่แยกขาด และโหมดแซนด์บ็อกซ์ที่เข้มงวดซึ่งจะบล็อกคำสั่งใดๆ ที่ไม่สามารถดำเนินการได้ภายในแซนด์บ็อกซ์

นอกจากนี้ ในวันที่ 30 สิงหาคม เฟรมเวิร์กใหม่ชื่อ PILOT ได้รับการเผยแพร่ ช่วยให้เอเจนต์สามารถพัฒนาตนเองแบบเรียลไทม์ระหว่างการปฏิบัติงาน ผู้ควบคุมที่เป็นมนุษย์จะสังเกตกระบวนการทำงานและสามารถชี้แนะหรือยกเลิกได้ PILOT ครองอันดับหนึ่งใน 5 จาก 6 การกำหนดค่าเกณฑ์มาตรฐาน

เมื่อวันที่ 29 สิงหาคม Henna Virkkunen รองประธานบริหารด้านอธิปไตยทางเทคโนโลยีของคณะกรรมาธิการยุโรป ยืนยันขั้นตอนการบังคับใช้อย่างเป็นทางการขั้นแรกภายใต้พระราชบัญญัติ AI ของสหภาพยุโรป สำนักงาน AI ได้ส่งคำขอข้อมูล (Requests for Information - RFI) ไปยังผู้ให้บริการโมเดล AI สำหรับวัตถุประสงค์ทั่วไป — ซึ่งมีรายงานว่ารวมถึง OpenAI, Anthropic และ Google — เกี่ยวกับความปลอดภัยของโมเดล การประเมินผลภายนอกโดยอิสระ และการเฝ้าระวังหลังออกสู่ตลาด ผู้ให้บริการที่ตอบกลับด้วยข้อมูลที่ไม่ถูกต้อง ไม่สมบูรณ์ หรือทำให้เข้าใจผิด จะต้องเผชิญกับค่าปรับสูงถึง 15 ล้านยูโร หรือ 3% ของรายรับต่อปีทั่วโลก ข้อผูกพันด้าน AI สำหรับวัตถุประสงค์ทั่วไปของพระราชบัญญัตินี้มีผลบังคับใช้เมื่อวันที่ 2 สิงหาคม 2026 บรัสเซลส์ดำเนินการภายในสี่สัปดาห์

ผลกำไรที่แท้จริงอยู่ที่โครงสร้างพื้นฐาน

เมื่อวันที่ 28 สิงหาคม Barclays เผยแพร่การศึกษาเศรษฐศาสตร์ต่อหน่วยของอุตสาหกรรม AI ข้อค้นพบหลัก: สำหรับทุกรายได้ 100 ดอลลาร์ที่สร้างโดยบริษัทโมเดล AI จำนวน 35–40 ดอลลาร์จะไหลไปยังผู้ให้บริการคลาวด์รายใหญ่สามราย — AWS, Azure และ GCP — ในรูปค่าธรรมเนียมการประมวลผลอนุมาน (inference) ผู้ให้บริการคลาวด์ได้รับกำไรจากการดำเนินงาน 10–20 ดอลลาร์จากจำนวน 35–40 ดอลลาร์นั้น ที่อัตรากำไร 34%–47% อัตรากำไรจากการอนุมานแบบชำระเงินของห้องปฏิบัติการ AI เพิ่มขึ้นจากเพียงมากกว่า 10% ในปี 2025 เป็น 50%–65% ในปี 2026 โดยได้แรงหนุนจากลูกค้าองค์กรและเวิร์กโฟลว์แบบเอเจนต์ (agentic workflows) แต่โครงสร้างธุรกิจสร้างช่องว่างที่กว้าง: ห้องปฏิบัติการ AI ที่มีรายได้จาก API 70% และการสมัครสมาชิก 30% จะมีอัตรากำไรขั้นต้นที่ปรับปรุงแล้วประมาณ 55% ในขณะที่ห้องปฏิบัติการที่มีการสมัครสมาชิก 80% และ API 20% จะอยู่ที่ประมาณ 38% Barclays คาดการณ์ว่ารายได้ของห้องปฏิบัติการ AI จะเติบโตจาก 7 พันล้านดอลลาร์ในปี 2024 เป็น 137 พันล้านดอลลาร์ในปี 2026 และ 690 พันล้านดอลลาร์ภายในปี 2028 ค่าใช้จ่ายในการเทรนคิดเป็นสัดส่วนของรายได้กำลังลดลง — จาก 96% ในปี 2024 เหลือประมาณ 30% ภายในปี 2028 — ซึ่งเป็นการเปลี่ยนจุดศูนย์ถ่วงของอุตสาหกรรมจากการเทรนไปสู่การอนุมาน

เมื่อวันที่ 30 สิงหาคม SemiAnalysis เผยแพร่บทวิเคราะห์เชิงลึกที่แสดงให้เห็นว่า Jalapeño ตัวเร่งความเร็ว AI แบบปรับแต่งเองของ OpenAI ได้แซงหน้า Blackwell ของ NVIDIA ในด้านสถาปัตยกรรม โมเดลการเขียนโปรแกรม และประสิทธิภาพในโลกแห่งความเป็นจริง การค้นพบนี้ส่งสัญญาณถึงการเปลี่ยนแปลงภูมิทัศน์การแข่งขันของชิป AI ที่อาจเกิดขึ้น

เมื่อวันที่ 31 สิงหาคม มีรายงานว่า Microsoft เริ่มเข้มงวดกับงบประมาณโทเค็น AI ของพนักงาน พนักงานคนหนึ่งในแผนก Customer and Partner Solutions ใช้ต้นทุนโทเค็นประมาณ 28,000 ดอลลาร์ในช่วง 28 วัน ในบรรดาพนักงานสหรัฐฯ ประมาณ 350 คนที่สมัครใจส่งข้อมูล ค่ามัธยฐานของค่าใช้จ่าย AI ต่อเดือนอยู่ที่ 300 ดอลลาร์ CoreAI มีค่ามัธยฐานสูงสุดที่ 975 ดอลลาร์ โดยมีบุคคลหนึ่งสูงถึง 16,000 ดอลลาร์ Microsoft กำลังเปลี่ยนเวิร์กโหลดเริ่มต้นภายในเป็น GPT-5.6 Sol และกีดกันการใช้เครื่องมือของบุคคลที่สามเช่น Anthropic Claude สำหรับงานเขียนโค้ด จำนวนพนักงานทั่วโลกของ Microsoft เกิน 223,000 คน

เมื่อวันที่ 30 สิงหาคม มีรายงานว่า OpenAI ได้ซื้อ Mac mini และ Mac Studio จำนวนนับหมื่นเครื่องสำหรับการเทรนแบบเสริมกำลัง (reinforcement learning) ของเอเจนต์ที่ควบคุมคอมพิวเตอร์ Anthropic กำลังเช่า Mac mini ผ่าน AWS รายได้จาก Mac ของ Apple สูงถึง 10.3 พันล้านดอลลาร์ในไตรมาสเดือนมิถุนายน เพิ่มขึ้น 29% เมื่อเทียบเป็นรายปี เกิดข้อจำกัดด้านอุปทานหลังจากการซื้อจำนวนมากเหล่านี้

เมื่อวันที่ 30 สิงหาคม ข้อมูลแสดงให้เห็นว่าเมืองควินซี รัฐวอชิงตัน มีอัตราความยากจนลดลงจาก 29% เหลือ 6% ซึ่งขับเคลื่อนโดยการพัฒนาศูนย์ข้อมูล Loudoun County รัฐเวอร์จิเนีย จัดเก็บรายได้ภาษีประมาณ 1 พันล้านดอลลาร์ต่อปีจากศูนย์ข้อมูล

Jensen Huang ซีอีโอของ NVIDIA กล่าวเมื่อวันที่ 30 สิงหาคมว่า คำจำกัดความของเป้าหมาย AGI นั้นไร้ความหมายแล้ว เนื่องจาก AI ได้บรรลุประสิทธิภาพระดับ AGI ในหลายๆ งานแล้ว เขาตั้งข้อสังเกตว่ามีการลงทุน 400 พันล้านดอลลาร์ในสตาร์ทอัป AI ในช่วงหกเดือนที่ผ่านมา และ AI กำลังขับเคลื่อนการลงทุนในโครงข่ายไฟฟ้า พลังงานสะอาด และการผลิต — ซึ่งเป็นการฟื้นฟูอุตสาหกรรมของอเมริกาโดยพฤตินัย

การแข่งขันโมเดลของจีน: หยุดชั่วคราวเพื่อก้าวกระโดด

เมื่อวันที่ 30 สิงหาคม หลายแหล่งข่าวรายงานว่า Doubao โมเดลขนาดใหญ่ 2.2 ของ ByteDance ซึ่งเดิมมีกำหนดเปิดตัวในเดือนสิงหาคม จะถูกเลื่อนออกไป แหล่งข่าวภายในกล่าวว่า ByteDance ต้องการรอบการเทรนล่วงหน้า (pre-training) และหลังการเทรน (post-training) ที่ยาวนานขึ้นเพื่อบรรลุการปรับปรุงที่สำคัญยิ่งขึ้นในด้านความสามารถในการเขียนโค้ด การเรียกใช้เครื่องมือ และความสามารถของเอเจนต์ ทีม Seed กำลังพัฒนาโมเดลขนาดใหญ่พิเศษรุ่นถัดไปไปพร้อมๆ กับการรักษาวงจรการพัฒนาโมเดลปัจจุบันไว้ Zhang Yiming ผู้ก่อตั้ง ByteDance กล่าวในการประชุมทีม Seed เมื่อเดือนกรกฎาคมว่า บริษัทจะไม่พึ่งพาการกลั่นกรอง AI เพื่อปรับปรุงโมเดลของตน แม้ว่านั่นจะหมายถึงการตามหลังคู่แข่งชั่วคราวก็ตาม Liang Rubo ซีอีโอย้ำในการประชุม全体พนักงานเมื่อวันที่ 6 สิงหาคมว่า ByteDance จะยืนหยัดด้วยโมเดลที่พัฒนาขึ้นเอง

เมื่อวันที่ 28 สิงหาคม ตัวอย่างรุ่น Hunyuan Hy4 ของ Tencent ถูกรวมเข้ากับ WorkBuddy ก่อให้เกิดอุปสงค์ในการอนุมานที่พุ่งสูงขึ้น บริการต้องเข้าคิวในวันที่เปิดตัว Tencent กำลังขยายคลัสเตอร์การอนุมานอย่างเร่งด่วน ตัวอย่างรุ่นนี้ยังคงให้ใช้ฟรีจนถึงวันที่ 10 กันยายน

เมื่อวันที่ 30 สิงหาคม Artificial Analysis รายงานว่าโมเดลที่เป็นกรรมสิทธิ์ 1.1 ของ Apodex ได้คะแนน 44 ในดัชนีความฉลาด (Intelligence Index) จัดอยู่ในระดับเดียวกับ Kimi K2.6 (45) และ MiniMax-M3 (45)

เมื่อวันที่ 30 สิงหาคม สตาร์ทอัป AI ในเซี่ยงไฮ้ชื่อ StartLux ซึ่งได้รับการสนับสนุนจาก Chen Tianqiao ผู้ก่อตั้ง Shanda ได้รับความสนใจจากอุตสาหกรรมจากความก้าวหน้าในการพัฒนาโมเดลขนาดใหญ่ระดับล้านล้านพารามิเตอร์

เมื่อวันที่ 30 สิงหาคม ByteDance เปิดตัวอย่างเป็นทางการสำหรับ "Doubao Work Agent" ซึ่งเป็นเอไอเอเจนต์สำหรับองค์กรที่วางตำแหน่งเป็นเพื่อนร่วมงาน AI ถาวรที่มีสภาพแวดล้อมรันไทม์ บริบท และเครื่องมือของตนเอง เอเจนต์นี้มีการซิงค์ข้ามอุปกรณ์ — งานสามารถรันบนเครื่อง本地หรือเครื่องเสมือนบนคลาวด์ที่ออนไลน์ตลอด 24/7 — และผสานรวมเข้ากับ Feishu (Lark) โดยธรรมชาติ ทำให้สามารถอ่านและเขียนลงในเอกสาร สเปรดชีต และการประชุมของ Feishu ได้โดยตรง มันรวมถึงการเข้าถึงโมเดลสร้างวิดีโอ Seedance และโมเดลสร้างภาพ Seedream ของ ByteDance ในตัว

AI พบกับโลกกายภาพ

เมื่อวันที่ 31 สิงหาคม Healthwatch England หน่วยงานเฝ้าระวังของ NHS แห่งสหราชอาณาจักร เปิดเผยกรณีที่เครื่องมือถอดความทางการแพทย์ด้วย AI ทำผิดพลาดร้ายแรง ผู้ป่วยหญิงรายหนึ่งได้รับแจ้งจากบทสรุปที่สร้างโดย AI ว่าเธอมี "ภาวะปลอกไมอีลินถูกทำลาย" (demyelination) — ความเสียหายของเส้นประสาทอย่างรุนแรงที่อาจนำไปสู่โรคปลอกประสาทเสื่อมแข็ง — ในขณะที่ผลการตรวจที่ถูกต้องคือ "ไม่มีภาวะปลอกไมอีลินถูกทำลาย" ในอีกกรณีหนึ่ง เครื่องมือ AI สับสนระหว่างยาที่แพทย์สั่งกับยาที่มีชื่อคล้ายกัน กรณีที่สามเกี่ยวข้องกับบทสรุป AI ที่ละเว้นคำแนะนำของผู้เชี่ยวชาญให้ผู้ป่วยขอใบสั่งยาต่ออายุยารักษาไมเกรน Healthwatch ระบุว่ามี "หลายกรณีที่ผู้ป่วยระบุข้อผิดพลาดที่บุคลากรทางการแพทย์ไม่ได้สังเกตเห็น" MHRA ของสหราชอาณาจักรตัดสินใจไม่จัดประเภทเครื่องมือถอดความด้วย AI เป็นอุปกรณ์ทางการแพทย์ ซึ่งหมายความว่าขณะนี้ยังไม่มีกรอบการกำกับดูแลด้านความปลอดภัยระดับประเทศบังคับใช้ ณ เดือนสิงหาคม 2026 มีเครื่องมือถอดความด้วย AI ที่แตกต่างกัน 27 รายการที่ใช้งานทั่ว NHS England

เมื่อวันที่ 31 สิงหาคม ซีรีส์ขนาดยาวที่สร้างด้วย AIGC เรื่องแรกของจีน "Journey to the West: The Later Story" ออกอากาศตอนแรก ภาคแรก "Flower-Fruit Mountain" ประกอบด้วย 5 ตอน ตอนละ 40 นาที ออกอากาศทาง Mango TV และ Hunan Satellite TV ในช่วงเวลาไพรม์ไทม์ ซีรีส์เรื่องนี้เป็นเรื่องแรกที่ใช้โมเดล "ทบทวนไปพร้อมออกอากาศ" ภายใต้นโยบาย "21 มาตรการ" ของจีน — คือการผลิต ตรวจสอบ และออกอากาศไปพร้อมๆ กัน ซีซันแรกทั้งหมดมี 30 ตอน ดัดแปลงจากนวนิยายนิรนามช่วงปลายราชวงศ์หมิงถึงต้นราชวงศ์ชิงที่เล่าเรื่องราวต่อจากไซอิ๋ว หนึ่งพันปีหลังจากซุนหงอคงบรรลุพุทธภาวะ