Microsoft ได้นำกรอบการขอความยินยอมแบบบังคับ (mandatory consent framework) มาใช้กับ Windows 11 เพื่อป้องกันไม่ให้ AI Agent เข้าถึงไฟล์ส่วนตัวของผู้ใช้ได้ หากไม่ได้รับอนุญาตอย่างชัดเจนจากผู้ใช้ โดยบริษัทได้อัปเดตเอกสารเกี่ยวกับฟีเจอร์ Agentic AI สำหรับบิลด์ทดลอง (experimental preview) ระบุว่า มี 6 โฟลเดอร์ที่ถูกป้องกันเป็นค่าเริ่มต้น ได้แก่

• Desktop

• Documents

• Downloads

• Music

• Pictures

• Videos

AI Assistant แต่ละตัวจะต้อง ร้องขอสิทธิ์แยกกันเป็นรายตัว ไม่สามารถรับสิทธิ์แบบครอบคลุมทั้งระบบได้ตั้งแต่แรก แนวทางแบบ opt-in นี้ทำให้การติดตั้ง Windows 11 ปกติ จะไม่ถูกกระทบใด ๆ เว้นแต่ผู้ใช้จะเลือกเปิดใช้ฟีเจอร์ดังกล่าวและอนุญาตให้ AI เข้าถึงข้อมูลด้วยตัวเอง

ระบบสิทธิ์นี้ทำงานในลักษณะ ต่อหนึ่ง Agent (per-agent basis) หมายความว่า การอนุญาตให้ AI ตัวหนึ่งเข้าถึงไฟล์ จะไม่ถูกนำไปใช้กับ AI ตัวอื่นที่ติดตั้งเพิ่มเข้ามาโดยอัตโนมัติ เมื่อ AI พยายามเข้าถึงไฟล์ ระบบ Windows จะเรียกหน้าต่างขอความยินยอมขึ้นมาให้ผู้ใช้เลือกได้ว่า

• อนุญาตถาวร

• อนุญาตเฉพาะครั้ง (ต้องยืนยันใหม่ทุกครั้ง)

• หรือปฏิเสธทั้งหมด

AI Assistant แต่ละตัวจะมีหน้าตั้งค่าของตัวเอง ผู้ใช้สามารถกลับมาแก้ไขหรือเพิกถอนสิทธิ์เหล่านี้ภายหลังได้ นอกจากนี้ Microsoft ยังทดสอบระบบ connector แบบแยกส่วน สำหรับการโต้ตอบกับแอประบบอย่าง File Explorer หรือ Settings ซึ่งถูกแยกออกจากสิทธิ์เข้าถึงโฟลเดอร์หลัก ทำให้ผู้ใช้สามารถเลือกได้ เช่น อนุญาตให้ AI ปรับตั้งค่าระบบได้ แต่ไม่ให้แตะต้องเอกสารหรือรูปภาพส่วนตัว

ก่อนหน้านี้ Microsoft เคยเตือนแล้วว่า AI Agent อาจเกิดอาการ hallucinate ให้ข้อมูลผิดพลาด และอาจกลายเป็นความเสี่ยงด้านความปลอดภัยได้ ซึ่งในทางปฏิบัติ ประเด็นด้านความปลอดภัยถือว่าน่ากังวลมากกว่า ปัจจุบันเริ่มมีเทคนิคโจมตีรูปแบบใหม่ที่เกี่ยวข้องกับ AI Agent อัตโนมัติ โดยเฉพาะ cross-prompt injection ซึ่งเป็นการซ่อนคำสั่งอันตรายไว้ในเอกสารหรือองค์ประกอบของอินเทอร์เฟซ ทำให้ AI ทำตามคำสั่งเหล่านั้นแทนงานที่ตั้งใจไว้ ผลลัพธ์อาจร้ายแรงถึงขั้นติดตั้งมัลแวร์ ขโมยข้อมูลการชำระเงิน หรือกระทำการอันตรายอื่น ๆ ได้

ดังนั้น ก่อนตัดสินใจเปิดใช้ฟีเจอร์ทดลองเหล่านี้ ผู้ใช้ควรพิจารณา มิติด้านความปลอดภัยเป็นอันดับแรก ไม่ใช่แค่ความสะดวกหรือความสามารถของ AI เพียงอย่างเดียว