เกิดอะไรขึ้น
Instinct เป็นผู้ช่วย AI ส่วนตัวที่ทีมเล็กนำโดย Noah Shinn อดีตนักวิจัย Sierra พัฒนาและดำเนินการโดย Spear Street Technology ขณะนี้อยู่ในขั้นทดสอบแบบการเข้าถึงแบบส่วนตัว โดยเชื่อมต่อแอปและอุปกรณ์ของผู้ใช้ รวมถึงอีเมล แอปแชท ปฏิทิน เสียง ตำแหน่ง และหน้าจอ ผู้ใช้สามารถสั่งงานผ่านข้อความหรือ WhatsApp ให้จองนัดหมาย จัดการกล่องจดหมาย ค้นหาเที่ยวบิน และทำธุรกรรมได้ ขณะเดียวกัน ผู้ทดสอบพบข้อกำหนดการใช้งานที่ให้ Instinct ใช้งาน เก็บ เผยแพร่ และแก้ไขเนื้อหาของผู้ใช้แบบถาวร รวมถึงเก็บภาพหน้าจอ การเคลื่อนไหวเคอร์เซอร์ และข้อมูลการพิมพ์ นอกจากนี้ Peter Yang รายงานว่า Instinct ไม่ลบข้อมูล Gmail เมื่อร้องขอ และทีมแก้ไขโดยเพิ่มเครื่องมือลบข้อมูลภายนอกในตั้งค่า ส่วน Claire Vo พบว่า Instinct ยังสรุปอีเมลได้หลังตัดการเชื่อมต่อ และบอทยืนยันว่าอีเมลถูกเก็บเป็นข้อความธรรมดาเพื่อค้นหาภายหลัง
ทำไมเรื่องนี้สำคัญ
ประเด็นนี้สำคัญเพราะ Instinct ขอสิทธิ์เข้าถึงข้อมูลส่วนตัวและอุปกรณ์ในระดับสูง พร้อมข้อกำหนดที่อนุญาตให้ใช้ข้อมูลของผู้ใช้ฝึกโมเดล AI และทำธุรกรรมแทนผู้ใช้ได้ ซึ่งกระทบโดยตรงต่อความไว้วางใจของผู้ใช้ที่มอบหมายงานให้ AI
ผลกระทบที่น่าจับตา
-
สำหรับผู้ใช้งาน: ความเสี่ยงด้านข้อมูลส่วนตัว: ผู้ใช้ต้องตัดสินใจมอบสิทธิ์เข้าถึงอีเมล ปฏิทิน แอปแชท เสียง ตำแหน่ง และหน้าจอให้ AI ขณะที่ข้อกำหนดอนุญาตให้เก็บและใช้ข้อมูลแบบถาวร
-
สำหรับสังคม: คำถามเรื่องสมดุลความสะดวกกับความเป็นส่วนตัว: กรณี Instinct ทำให้เห็นว่าการให้ AI เข้าถึงอุปกรณ์และทำธุรกรรมแทนผู้ใช้ต้องมาพร้อมกลไกควบคุมข้อมูล การลบข้อมูล และขอบเขตสิทธิ์ที่ชัดเจน
มุมมองของทันเทค
บทวิเคราะห์: Instinct แสดงให้เห็นว่าความสามารถของ AI agent ที่เชื่อมต่อหลายระบบกำลังวิ่งเร็วกว่ากรอบความเชื่อมั่นของผู้ใช้ เมื่อข้อกำหนดการใช้งานกว้างถึงขั้นเก็บข้อมูล ฝึกโมเดล และทำธุรกรรมแทนผู้ใช้ได้ ปัญหาจึงไม่ใช่แค่ฟีเจอร์ที่ผิดพลาด แต่คือโมเดลธุรกิจและสถาปัตยกรรมความปลอดภัยที่ต้องพิสูจน์ว่าผู้ใช้ควบคุมข้อมูลได้จริง
สรุปในประโยคเดียว
Instinct ผู้ช่วย AI ส่วนตัวที่เชื่อมต่ออุปกรณ์และแอปหลายอย่าง กำลังถูกตั้งข้อกังวลจากข้อกำหนดการใช้งานที่กว้างและการเก็บข้อมูลแม้ผู้ใช้ตัดการเชื่อมต่อ