แนวคิดเกี่ยวกับระบบปฏิบัติการเอเจนต์ฟังดูดีมากบนกระดาษ แทนที่จะคลิกผ่านเมนูและทำงานที่ซ้ำซากจำเจด้วยตัวเอง คุณจะบอกคอมพิวเตอร์ว่าคุณต้องการอะไรผ่านข้อความแจ้ง และคอมพิวเตอร์จะทราบวิธีดำเนินการดังกล่าวด้วยตนเอง สามารถย้ายไฟล์ไปมา เปลี่ยนการตั้งค่า ร่างและส่งอีเมล และที่สำคัญที่สุด งานเหล่านี้เชื่อมโยงเข้าด้วยกันโดยได้รับข้อมูลจากผู้ใช้เพียงเล็กน้อย
ในโลกที่ไม่มีนักแสดงที่เป็นอันตรายและข้อบกพร่องของซอฟต์แวร์ ทุกอย่างฟังดูดี แต่น่าเสียดายที่เราอยู่ในโลกที่เต็มไปด้วยสิ่งเหล่านี้ โมเดลเอเจนต์นี้ทำลายสมมติฐานหลายประการที่คอมพิวเตอร์สมัยใหม่สร้างขึ้นอย่างเงียบๆ ในอดีตระบบปฏิบัติการมีปฏิกิริยาโต้ตอบ กำหนดได้ชัดเจน และออกแบบระบบปฏิบัติการแบบเอเจนต์แทนที่ด้วยความเป็นอิสระ การอนุมาน และการตัดสินใจที่น่าจะเป็น การเปลี่ยนแปลงดังกล่าวมาพร้อมกับการแลกเปลี่ยนที่ร้ายแรงกว่าความหมายทางการตลาดส่วนใหญ่
ความเสี่ยงด้านความปลอดภัยเพิ่มขึ้นอย่างมาก
คุณให้ความไว้วางใจอย่างมากในสิ่งที่สามารถหลอกได้
มนุษย์ย่อมผิดพลาดได้ เราอาจถูกหลอกให้ให้ข้อมูลที่เราไม่ต้องการผ่านวิศวกรรมสังคม ฟิชชิ่ง หรือวิธีการที่เป็นอันตรายอื่นๆ เพื่อให้ระบบปฏิบัติการเอเจนต์มีประโยชน์ จำเป็นต้องมีการเข้าถึงระดับเดียวกับที่คุณซึ่งเป็นผู้ใช้มี ซึ่งหมายความว่าจำเป็นต้องได้รับสิทธิ์ในไฟล์ สิทธิ์ของแอปพลิเคชัน การเข้าถึงเครือข่าย และบางทีสิ่งที่สำคัญที่สุดคือห้องเก็บรหัสผ่านของคุณ ระบบปฏิบัติการตัวแทนที่หยุดทุก ๆ 10 นาทีเพื่อขอรหัสผ่านของคุณหรือเพื่อยืนยันรหัสผ่านจะเอาชนะวัตถุประสงค์ และในที่นี้ก็คือปมของปัญหาเกี่ยวกับระบบปฏิบัติการตัวแทน
ระบบตัวแทนไม่มีข้อผิดพลาด เมื่อแอปแบบเดิมล้มเหลวหรือถูกบุกรุก (หรือแม้แต่ LLM เพื่อการโต้แย้ง) “รัศมีการระเบิด” ค่อนข้างจำกัด แต่เมื่อเอเจนต์ล้มเหลว สิทธิ์ระดับระบบที่ใกล้เคียงอาจส่งผลกระทบร้ายแรงต่อไม่เพียงแต่คอมพิวเตอร์ของคุณเท่านั้น แต่ยังรวมถึงข้อมูลของคุณด้วย พื้นผิวการโจมตีมีขนาดใหญ่มาก การแทรกข้อมูลทันที บริบทที่ไม่เหมาะสม และการจัดการอินพุตอื่นๆ สำหรับเอเจนต์สามารถกลายเป็นเวกเตอร์ด้านความปลอดภัยได้ ผู้คนได้พิสูจน์ครั้งแล้วครั้งเล่าว่าคุณสามารถหลอก ChatGPT หรือ Claude ให้ทำสิ่งที่พวกเขาไม่ควรทำได้ และระบบปฏิบัติการเอเจนต์เหล่านี้ก็ไม่ต่างกัน
ไม่มีความรับผิดชอบ
บริษัทจะล้างมือด้วยความรับผิด
เมื่อระบบปฏิบัติการแบบเดิมทำสิ่งที่ไม่คาดคิด ความรับผิดชอบมักจะค่อนข้างชัดเจน ผู้ใช้คลิกปุ่ม แอพทำงานผิดปกติ หรือไดรเวอร์ขัดข้อง ด้วยระบบเอเจนต์ ความชัดเจนนั้นหายไปเกือบหมด มันเป็นคำสั่งของผู้ใช้หรือเปล่า? ตัวแทนตีความบริบทก่อนหน้านี้ที่คุณใช้ไม่ถูกต้องหรือไม่ มันประสาทหลอนหรือเปล่า?
หากตัวแทนลบไฟล์ผิด ส่งข้อมูลละเอียดอ่อน หรือเปลี่ยนแปลงการตั้งค่าที่สำคัญ ใครเป็นผู้รับผิดชอบ? ผู้ใช้ไม่ได้ดำเนินการอย่างชัดเจน ระบบปฏิบัติการไม่ปฏิบัติตามคำแนะนำที่กำหนดไว้ โมเดลตีความเจตนาตามบริบท ประวัติศาสตร์ และความน่าจะเป็น และสามารถ (และจะ) เข้าใจผิดได้ในบางครั้ง
สิ่งนี้สร้างปัญหาความรับผิดชอบอย่างมาก โดยเฉพาะอย่างยิ่งเมื่อทำงานกับข้อมูลที่ละเอียดอ่อน มีแนวโน้มว่าระบบปฏิบัติการเอเจนต์ทุกประเภทจะมาพร้อมกับคำชี้แจงข้อกำหนดและเงื่อนไขที่ยาวมากซึ่งช่วยให้พวกเขาสามารถส่งคำตำหนิกลับไปยังผู้ใช้ได้ ในสภาพแวดล้อมขององค์กรทุกประเภท ฉันเห็นว่าสิ่งนี้กลายเป็นฝันร้ายทางกฎหมาย หากผู้ดูแลระบบคนใดกล้าพอที่จะอนุญาตให้ใช้งานได้ตั้งแต่แรก
ความล้มเหลวสามารถเกิดขึ้นซ้ำไม่ได้
สามารถทำลายการแก้ไขปัญหาพีซีโดยสิ้นเชิง
องค์ประกอบพื้นฐานประการหนึ่งของการเป็นเจ้าของพีซีและการใช้งานพีซีทุกวันคือความสามารถในการจำลองข้อผิดพลาดและแก้ไขปัญหาตามนั้น ปัญหาที่คุณไม่สามารถทำซ้ำได้คือปัญหาที่แก้ไขได้ยาก และเมื่อคุณเพิ่มคุณสมบัติเอเจนต์ลงผสม คุณจะสูญเสียความสามารถในการให้เหตุผลผ่านปัญหา
การตัดสินใจของตัวแทนได้รับอิทธิพลจากจังหวะเวลา บริบทก่อนหน้า สถานะของระบบ และการให้เหตุผลความน่าจะเป็น คำขอเดียวกันที่ออกสองครั้งอาจให้ผลลัพธ์ที่แตกต่างกัน ความล้มเหลวที่เกิดขึ้นครั้งเดียวอาจไม่เกิดขึ้นอีก หรืออาจปรากฏขึ้นอีกภายใต้สถานการณ์ที่แตกต่างกันเล็กน้อย
บันทึกสามารถแสดงให้เห็นว่ามีการดำเนินการอะไรบ้าง แต่ไม่ค่อยมีสาเหตุว่าทำไมจึงถูกเลือก ซึ่งทำให้เวิร์กโฟลว์การแก้ไขปัญหาแบบเดิมไม่มีประสิทธิภาพ คุณไม่สามารถย้อนรอยขั้นตอนที่ไม่เคยชัดเจนตั้งแต่แรกได้อย่างน่าเชื่อถือ
การอนุมานเจตนาโดยพื้นฐานแล้วยังไม่น่าเชื่อถือ
มนุษย์ไม่สามารถคาดเดาได้เสมอไป
Agentic OS อาศัยสมมติฐานที่เปราะบางประการหนึ่ง นั่นคือ ระบบสามารถอนุมานได้อย่างถูกต้องว่าผู้ใช้ตั้งใจจะทำอะไร อย่างไรก็ตาม เจตนาของมนุษย์บางครั้งก็ยุ่งเหยิง มักจะคลุมเครือ และมีบริบทสูง
ผู้ใช้มักจะออกคำสั่งที่ไม่สมบูรณ์ เนื่องจากมนุษย์อาศัยสมมติฐานร่วมกันและการตระหนักรู้ในสถานการณ์ โมเดลไม่เข้าใจสมมติฐานเหล่านั้นจริงๆ แต่กลับเป็นการประมาณค่าเหล่านั้นแทน เมื่อพวกเขาทำผิด ผลลัพธ์ที่ได้ไม่ใช่แค่คำแนะนำที่ไม่ดีเท่านั้น เป็นการดำเนินการในนามของผู้ใช้
ข้อผิดพลาดที่อันตรายที่สุดคือข้อผิดพลาดที่เกือบจะถูกต้อง การลบโฟลเดอร์ผิด แก้ไขการตั้งค่าผิด หรือแชร์เอกสารผิดนั้นแย่กว่าการไม่ทำอะไรเลย ฉันยอมผิดเองเป็นการส่วนตัวดีกว่า
ระบบอัตโนมัติมีบทบาทในระบบปฏิบัติการ แต่การดำเนินการแบบเอเจนต์ไม่มี
ระบบเอเจนต์ใช้งานได้ดีกับเครื่องมือที่มีขอบเขตแคบและมีขอบเขตที่ดี แต่ระบบปฏิบัติการไม่จัดอยู่ในหมวดหมู่นั้น ขอบเขตของพวกเขานั้นกว้างใหญ่และหลากหลาย และแม้ว่าพวกเขาจะได้ประโยชน์จากระบบอัตโนมัติที่ผู้ใช้กำหนด แต่อะไรก็ตามที่เอเจนต์ขยายขอบเขตเกินกว่าที่ฉันชอบเล็กน้อย ระบบปฏิบัติการควรจะน่าเบื่อและคาดเดาได้
*️⃣ ลิงค์ที่มา:
ทำงานนั้นด้วยตัวเอง ทำลายสมมติฐานหลายประการ มากกว่าที่การตลาดส่วนใหญ่บอกเป็นนัย การเข้าถึงระดับเดียวกัน ระบบปฏิบัติการ คาดเดาได้