Microsoft ยอมรับว่าเจ้าหน้าที่ AI มีอาการประสาทหลอนและตกเป็นเหยื่อการโจมตีได้ แต่พวกเขายังคงมาใน Windows 11

ในช่วงสองสามสัปดาห์ที่ผ่านมา Microsoft ได้เชื่อมโยงตัวแทน AI กับอนาคตของ Windows แต่เอกสารของบริษัทยอมรับอย่างเปิดเผยว่าเจ้าหน้าที่ดังกล่าวสามารถทำให้เกิดอาการประสาทหลอน กระทำการที่คาดเดาไม่ได้ และอาจตกเป็นเหยื่อการโจมตีที่ไม่เคยเกิดขึ้นเมื่อปีที่แล้ว อย่างไรก็ตาม องค์กรที่ใหญ่เป็นอันดับสี่ยังคงผลักดันฟีเจอร์เอเจนต์ใน Windows 11

หาก Microsoft เชื่อว่าตัวแทนเหล่านี้มีความเสี่ยงเพียงพอที่จะต้องมีบัญชีแยกกัน เซสชันที่แยกออกมา และบันทึกการตรวจสอบที่บ่งชี้ร่องรอยการแกะ เหตุใด Windows 11 จึงกลายเป็นพื้นที่ทดสอบสำหรับพวกเขา แล้วทำไมตอนนี้ถึงเป็นช่วงเวลาที่ผู้ใช้หมดแรงกับ AI-fication ของระบบปฏิบัติการแล้ว?

เดิมพันใหญ่ของ Microsoft ในด้านการประมวลผลเอเจนต์ถูกล็อคไว้แล้ว

ในช่วงกลางเดือนตุลาคม 2568 Microsoft กล่าวว่าพวกเขากำลัง “ทำให้พีซี Windows 11 ทุกเครื่องเป็นพีซี AI” บริษัทได้เปิดตัวคลื่นของการบูรณาการ AI เพื่อให้คุณ “พูดคุย” กับคอมพิวเตอร์ของคุณ แสดงสิ่งที่อยู่บนหน้าจอของคุณ จากนั้นให้ดำเนินการในนามของคุณ

Microsoft ต้องการให้คุณแทนที่การกดแป้นพิมพ์และการคลิกเมาส์ด้วยภาษาที่เป็นธรรมชาติ และเราได้เห็นตัวอย่างแผนนี้ด้วย Copilot Voice, Copilot Vision และส่วนตัวแทน Copilot Actions

การเคลื่อนไหวล่าสุดทำให้ทาสก์บาร์ของ Windows 11 กลายเป็นศูนย์กลางของ AI-fication นี้ ช่องค้นหาของ Windows 11 ถูกแทนที่ด้วย (เป็นทางเลือกในตอนนี้) ด้วยอินเทอร์เฟซ “Ask Copilot” ใหม่ที่ให้คุณเรียกตัวแทน AI หรือ Copilot ได้ด้วยการคลิกหรือพิมพ์เพียงครั้งเดียว จากนั้น เจ้าหน้าที่สามารถรันงานในเบื้องหลังได้ และคุณสามารถติดตามความคืบหน้าของพวกเขาได้โดยตรงจากแถบงาน ราวกับว่าเป็นแอปทั่วไป

แม้ว่าในปัจจุบันฟังก์ชันการทำงานของเอเจนต์จะถูกจำกัดและเลือกใช้ แต่สถาปัตยกรรมและแผนการทำงานก็ช่วยให้เข้าใจข้อเท็จจริงที่ว่าการประมวลผลแบบเอเจนต์คือกระบวนทัศน์หลักถัดไปสำหรับ Windows

Microsoft เปิดเผยอย่างเปิดเผยว่าตัวแทน AI อาจทำงานผิดปกติ แต่ยังต้องการให้พวกเขาอยู่ในไฟล์และแอปของคุณ

ในแง่ดี Microsoft ไม่ได้เสแสร้งว่าสิ่งนี้ปลอดภัยหรือไม่สามารถเข้าใจผิดได้ เอกสารอย่างเป็นทางการของบริษัทเตือนว่าตัวแทน AI เหล่านี้ “เผชิญกับข้อจำกัดในการทำงานในแง่ของพฤติกรรมของพวกเขา และในบางครั้งอาจมีอาการประสาทหลอนและสร้างผลลัพธ์ที่ไม่คาดคิด”

เอเจนต์มีความเสี่ยงต่อ Cross Prompt Injection (XPIA) ข้อความแจ้งที่เป็นอันตราย และมัลแวร์

หนึ่งในความเสี่ยงที่ใหญ่ที่สุดที่ Microsoft พูดถึงคือ Cross Prompt Injection (XPIA) โดยอธิบายถึงสถานการณ์ที่ตัวแทน AI ถูกหลอกโดยเนื้อหาที่เป็นอันตรายที่ฝังอยู่ในองค์ประกอบ UI เอกสาร หรือแอป เนื้อหาดังกล่าวอาจแทนที่คำสั่งดั้งเดิมของตัวแทนและบังคับให้ดำเนินการที่เป็นอันตราย เช่น การคัดลอกไฟล์ที่ละเอียดอ่อนหรือข้อมูลรั่วไหล

นักวิจัยด้านความปลอดภัยได้ทำเครื่องหมายว่าเอเจนต์ที่ใช้ GUI นั้นเสี่ยงต่อการโจมตีทางอ้อมประเภทนี้ เหตุผลก็คือสิทธิ์ระดับสูงที่มอบให้กับเอเจนต์ AI ดังกล่าว

แม้ว่าเราจะชื่นชม Microsoft ที่เปิดกว้างเกี่ยวกับเรื่องนี้ แต่ก็มีความไม่ไว้วางใจเกิดขึ้น เมื่อพิจารณาถึงความเกลียดชังทั้งหมดที่ Copilot ได้รับในทุกวันนี้ และถ้าคุณคิดว่า Recall เป็นฝันร้ายด้านความเป็นส่วนตัว เจ้าหน้าที่ AI ก็เป็นสนามเบสบอลที่แตกต่างไปจากเดิมอย่างสิ้นเชิง

Microsoft ยืนยันว่าตัวแทนทำงานภายใต้บัญชีที่แยกจากกัน โดยมีสิทธิ์ที่จำกัด การเข้าถึงโฟลเดอร์ที่ควบคุม และบันทึกการงัดแงะ แต่ยังคงให้สิทธิ์แก่ตัวแทนเหล่านี้ในการเข้าถึงแบบอ่านและเขียนไปยังตำแหน่งส่วนบุคคลส่วนใหญ่ของเราในพีซี โดยเฉพาะเอกสาร ดาวน์โหลด เดสก์ท็อป วิดีโอ รูปภาพ และเพลง ซึ่ง Microsoft เรียกว่าโฟลเดอร์ที่รู้จัก

“…เนื้อหาที่เป็นอันตรายที่ฝังอยู่ในองค์ประกอบ UI หรือเอกสารสามารถแทนที่คำสั่งของตัวแทนได้ ซึ่งนำไปสู่การกระทำที่ไม่ได้ตั้งใจ เช่น การขโมยข้อมูลหรือการติดตั้งมัลแวร์” Microsoft เตือนในเอกสารสนับสนุนที่เผยแพร่เมื่อต้นเดือนนี้ “เราขอแนะนำให้คุณอ่านข้อมูลนี้อย่างละเอียดและทำความเข้าใจผลกระทบด้านความปลอดภัยของการเปิดใช้งานตัวแทนบนคอมพิวเตอร์ของคุณ”

เมื่อพิจารณาถึงความเสี่ยง หาก Microsoft ต้องการให้ตัวแทนโต้ตอบกับแอปและไฟล์เหมือนคนจริง จะหยุดระบบทั้งหมดไม่ให้ล่มสลายตามน้ำหนักของตัวเองได้อย่างไร

สิ่งทั้งหมดขึ้นอยู่กับคุณสมบัติใหม่ที่เรียกว่า Agent Workspace

Agent Workspace คือหัวใจสำคัญของวิสัยทัศน์ของ Microsoft สำหรับ Agentic OS ทุกสิ่งที่บริษัทสัญญาไว้ รวมถึง AI ที่ใช้แอปสำหรับคุณ แก้ไขไฟล์ ย้ายเอกสาร และทำงานหลายขั้นตอนให้เสร็จสิ้นโดยไม่รบกวนคุณ ใช้งานได้เพียงเพราะตอนนี้ Windows 11 สามารถสร้างเซสชันเฉพาะสำหรับตัวแทนเหล่านี้เพื่อดำเนินการได้

มันไม่เหมือนกับเครื่องเสมือนหรือ Windows Sandbox Agent Workspace เป็นสภาพแวดล้อม Windows แบบขนาน พร้อมด้วยบัญชีของตัวเอง เดสก์ท็อปของตัวเอง แผนผังกระบวนการของตัวเอง และขอบเขตการอนุญาตของตัวเอง

การให้พื้นที่ทำงานแยกต่างหากสำหรับตัวแทน AI ถือเป็นความพยายามครั้งแรกของ Microsoft ที่จะมอบ “ที่ที่มีอยู่” ภายใน Windows โดยไม่ต้องปล่อยให้นั่งอยู่ในเซสชันของผู้ใช้โดยตรง

เจ้าหน้าที่แต่ละรายจะได้รับบัญชีมาตรฐานแยกต่างหากบนพีซีของคุณ และ Windows จะปฏิบัติต่อบัญชีนี้เหมือนกับผู้ใช้ที่ได้รับการควบคุมและจำกัด ซึ่งสามารถทำเฉพาะสิ่งที่คุณอนุญาตอย่างชัดเจนเท่านั้น ข้อจำกัดดังกล่าวเป็นการตอบสนองของ Microsoft ต่อปัญหาเดียวกันกับที่พวกเขาเตือนไว้

เจ้าหน้าที่ AI ทำงานอย่างไรภายใน Windows 11

ภายในพื้นที่ทำงานนี้ Agent จะโต้ตอบกับแอปพลิเคชันในลักษณะเดียวกับที่เราทำ มันสามารถคลิกปุ่ม UI พิมพ์ลงในช่องข้อความ เลื่อนไปตามหน้าต่าง ลากไฟล์ และทำงานที่เกี่ยวข้องกับหลายขั้นตอน AI จัดการเหตุผลที่อยู่เบื้องหลังขั้นตอนเหล่านี้

Copilot Actions ใช้โมเดลนี้อยู่แล้ว แทนที่จะขอให้โมเดลคลาวด์สร้างข้อความ เจ้าหน้าที่จะดำเนินการตามขั้นตอนในซอฟต์แวร์ที่ติดตั้งบนพีซีของคุณอย่างแท้จริง นั่นเป็นสาเหตุที่ Microsoft จำเป็นต้องแยกเซสชัน Windows ออกจากกัน

หากตัวแทนตีความข้อความแจ้งผิดหรือหาก XPIA ถูกทริกเกอร์ภายในเอกสาร ความเสียหายทางเทคนิคจะอยู่ภายในขอบเขตที่ Windows สามารถควบคุมและบันทึกทุกการกระทำได้

Agent Workspace มีหน้าที่รับผิดชอบในการตัดสินใจเลือกสิ่งที่จะแสดงต่อเจ้าหน้าที่ ตามที่ฉันได้กล่าวไปแล้ว เจ้าหน้าที่จะสามารถเข้าถึง “โฟลเดอร์ที่รู้จัก” หกโฟลเดอร์เท่านั้น ทุกสิ่งทุกอย่างในโปรไฟล์ผู้ใช้นั้นไม่มีขีดจำกัด กล่าวคือ เว้นแต่คุณจะให้สิทธิ์ในการเข้าถึง

สิ่งนี้ควรหยุดไม่ให้เอเจนต์รวบรวมข้อมูลเข้าไปในไดเร็กทอรีระบบ ที่เก็บข้อมูลรับรอง หรือโฟลเดอร์ข้อมูลแอป ซึ่งการอ่านหรือเขียนโดยไม่ได้ตั้งใจอาจทำให้เกิดความสับสนวุ่นวายสำหรับนักพัฒนาแอป Microsoft ยังใช้รายการควบคุมการเข้าถึงเพื่อป้องกันไม่ให้บัญชีตัวแทนไปเกินสิทธิ์ของผู้ใช้ที่เปิดใช้งาน

หากต้องการเปิดใช้งานคุณลักษณะใดๆ นี้ คุณต้องเปิดคุณลักษณะ Experimental Agentic ซึ่งจะปิดใช้งานตามค่าเริ่มต้น

Microsoft กล่าวว่า “ฟีเจอร์นี้ไม่มีความสามารถด้าน AI ในตัว แต่เป็นฟีเจอร์ความปลอดภัยสำหรับตัวแทนเช่น Copilot Actions การเปิดใช้งานการสลับนี้ทำให้สามารถสร้างบัญชีตัวแทนและพื้นที่ทำงานแยกต่างหากบนอุปกรณ์โดยให้พื้นที่ที่มีอยู่เพื่อแยกกิจกรรมของตัวแทนออกจากผู้ใช้”

โปรโตคอล MCP ควบคุมสิ่งที่เจ้าหน้าที่สามารถสัมผัสได้

Microsoft กำลังวางตำแหน่ง Model Context Protocol (MCP) ให้เป็นสะพานเชื่อมมาตรฐานระหว่างเอเจนต์และแอปพลิเคชัน นั่นคือวิธีที่ตัวแทนสื่อสารกับเครื่องมือบนระบบ

MCP ช่วยให้ตัวแทนค้นพบเครื่องมือ ฟังก์ชันการโทร อ่านข้อมูลเมตาของไฟล์ และโต้ตอบกับบริการผ่านเลเยอร์ JSON-RPC ที่คาดเดาได้ วิธีนี้จะป้องกันการเข้าถึงโดยตรงใดๆ และทำให้ Windows เป็นจุดบังคับใช้ส่วนกลางซึ่งมีการตรวจสอบสิทธิ์ การอนุญาตให้ใช้เครื่องมือ การประกาศความสามารถ และการบันทึกเกิดขึ้น หากไม่ใช่เพราะ MCP เจ้าหน้าที่ก็คงตาบอด พื้นที่ทำงานจะรักษาให้อยู่ในขอบเขตที่ปลอดภัย

เหตุใด Microsoft จึงเชื่อว่าความเสี่ยงกับ AI Agents นั้นคุ้มค่า

จากมุมมองของ Microsoft การถอยจาก AI ไม่ใช่ทางเลือกอีกต่อไป บริษัทต้องการให้ผู้คนใช้ AI อย่างเป็นธรรมชาติใน Windows จนถึงจุดที่ระบบปฏิบัติการกลายเป็น “ผืนผ้าใบสำหรับ AI”

Apple ทำงานร่วมกับ Apple Intelligence อย่างหนัก โดยเฉพาะอย่างยิ่งตั้งแต่มีแผนที่จะใช้ Gemini เวอร์ชันที่กำหนดเอง ซึ่งนำเราไปสู่ Google แล้ว วางแผนที่จะเข้าสู่ตลาดพีซีด้วย Aluminium OS

MacBook ราคาประหยัดที่กำลังจะมาถึงของ Apple พร้อมด้วย Apple Intelligence เวอร์ชันเต็มจะดึงดูดคนจำนวนมากได้มากกว่าเพียงเพราะปัจจัยที่พึงปรารถนาของบริษัท ดังนั้น หาก Windows ยังไม่ได้เตรียมพร้อม ก็มีความเสี่ยงที่แพลตฟอร์มจะเริ่มดูน่าเบื่อ ขณะเดียวกันก็ถูกเกลียดชังต่อปัญหาที่มีอยู่ใน Windows 11 เช่น File Explorer ที่ช้า

องค์กรขนาดใหญ่ที่ผลักดันให้ผู้ใช้ลองสิ่งใหม่ๆ ที่ให้ ROI แก่พวกเขานับล้านในที่สุดไม่ใช่เรื่องใหม่ แต่คุณควรเชื่อใจ Microsoft ไหม

Windows 11 ไม่มีชื่อเสียงมากนักตั้งแต่เริ่มต้น มีคนบ่นแล้วว่ารู้สึกบวมแค่ไหน

คุณลักษณะการเรียกคืนของ Microsoft ได้กลายเป็นตัวอย่างตำราเรียนเกี่ยวกับการไม่เปิดตัวผลิตภัณฑ์ AI บนระบบปฏิบัติการเดสก์ท็อป นักวิจัยด้านความปลอดภัย ผู้สนับสนุนความเป็นส่วนตัว และผู้ใช้ทั่วไปต่างก็แจ้งเตือนเกี่ยวกับแนวคิดที่ว่าจะมีการบันทึกภาพหน้าจอกิจกรรมของคุณไว้ในดิสก์ตลอดเวลา

ฟันเฟืองดังกล่าวดังมากพอที่ Microsoft ชะลอฟีเจอร์นี้ ปรับปรุงใหม่เพื่อให้สามารถเลือกใช้งานได้ และยังไม่สามารถสั่นคลอนป้ายกำกับ “ฝันร้ายความเป็นส่วนตัว” ได้อย่างเต็มที่ แม้กระทั่งตอนนี้ แอปที่เน้นความเป็นส่วนตัวอย่าง Signal, Brave และ AdGuard ก็ยังมาพร้อมกับมาตรการที่ขัดขวางการ Recall ทันที

บริบททั้งหมดนี้ทำให้ผู้คนกังวลว่า Windows จะกลายเป็นระบบปฏิบัติการเอเจนต์ หาก Recall พยายามดิ้นรนที่จะเคารพขอบเขต จะเกิดอะไรขึ้นเมื่อตัวแทนสามารถคลิก พิมพ์ และย้ายไฟล์ไปมาให้คุณได้

Microsoft กำลังสร้างอนาคตที่มีความเสี่ยงและหวังว่าผู้ใช้จะปฏิบัติตาม

Microsoft ได้ตัดสินใจเลือกสร้าง Windows 11 ใหม่โดยใช้ตัวแทน AI ที่สามารถทำงานได้ในนามของคุณ บริษัทกล้าพอที่จะยอมรับความเสี่ยงแต่ก็มั่นใจพอที่จะก้าวไปข้างหน้า

สถาปัตยกรรมดูชาญฉลาดบนกระดาษ แยกบัญชีสำหรับตัวแทน พื้นที่ทำงานแยก การเข้าถึงโฟลเดอร์ที่จำกัด การบันทึกที่เข้มงวด และชั้นโปรโตคอลที่ช่วยให้ Windows อยู่ระหว่างตัวแทนและเครื่องมือ ในทางปฏิบัติ สิ่งนี้จะมีชีวิตอยู่หรือตายไปเมื่อมีการประหารชีวิต ช่องโหว่ร้ายแรงประการหนึ่งสามารถยกเลิกความไว้วางใจมากมายที่ Microsoft พยายามสร้างใหม่หลังจากการ Recall อย่างน้อย คุณลักษณะของ Experimental Agentic ก็เป็นทางเลือกสำหรับตอนนี้

ความจริงที่น่าอึดอัดก็คือระบบปฏิบัติการเอเจนต์อาจหลีกเลี่ยงไม่ได้ และฉันไม่ได้หมายถึงแค่ Windows เท่านั้น ผู้จำหน่ายแพลตฟอร์มรายใหญ่ทุกรายกำลังผลักดันไปสู่อนาคตที่ AI ทำมากกว่าการแชทกับคุณ

สิ่งที่หลีกเลี่ยงไม่ได้คือความไว้วางใจ Microsoft จะต้องได้รับสิ่งนั้น โดยเฉพาะอย่างยิ่งจากผู้ใช้ที่รู้สึกว่า Windows 11 กำลังต่อต้านพวกเขาอยู่ หากบริษัทต้องการให้ผู้คนยอมรับตัวแทน AI ที่อยู่ในโฟลเดอร์ส่วนตัวของพวกเขา พวกเขาจะต้องเริ่มต้นด้วยการทำให้ทุกสิ่งเป็นทางเลือกโดยสิ้นเชิง จากนั้นให้กรณีการใช้งานที่ถูกต้อง

บ้าน

แบ่งปัน

จดหมายข่าว

จดหมายข่าว WL

จดหมายข่าว WL!

ก้าวล้ำหน้าด้วยการอัปเดต Windows, IT และ AI ล่าสุด ได้รับความไว้วางใจจากสมาชิกมากกว่า 50,000 ราย

ชื่อ

อีเมล

เข้าร่วมฟรี

*️⃣ ลิงค์ที่มา:

ตัวแทน AI พร้อมอนาคตของ Windows, Copilot Voice, Copilot Vision, Ask Copilot, เอกสารประกอบ , ตัวแทนที่ใช้ GUI ที่ถูกตั้งค่าสถานะ ความเกลียดชังที่ Copilot กำลังรวบรวม Recall เป็นฝันร้ายด้านความเป็นส่วนตัว โฟลเดอร์ที่รู้จัก , เอกสารสนับสนุน , Windows Sandbox, Gemini เวอร์ชันที่กำหนดเอง , ตลาดพีซีที่มี Aluminium OS , MacBook ราคาประหยัดที่กำลังจะมาถึงของ Apple, File Explorer ที่ช้า, Microsoft ชะลอฟีเจอร์นี้, บล็อก Recall ทันทีที่แกะกล่อง , [

บ้าน

จดหมายข่าว