با توجه به گزارش X در مورد اسکن فایل های ذخیره شده در گوگل درایو توسط Jamnai، کوین بنکستونیک مشاور ارشد مدیریت هوش مصنوعی متوجه شد که جمنای خلاصه‌ای از اظهارنامه مالیاتی را که قبلاً بدون درخواست خود در Google Drive بارگذاری کرده بود، نمایش می‌دهد.
در بسیاری از برنامه های مختلف، به ویژه اپلیکیشن های خدماتی مبتنی بر هوش مصنوعی، گزینه ای وجود دارد که از کاربر می خواهد در صورت تمایل به آموزش هوش مصنوعی و ارائه خدمات بهتر و دقیق تر و عدم رضایت فرد با این درخواست، از داده های خود استفاده کند. به هر دلیلی، قابلیت غیرفعال کردن آن وجود دارد.
بنکستون ادعا می کند که این گزینه را برای برنامه هوش مصنوعی Jumnai فعال نکرده است: «من فقط اظهارنامه مالیاتی خود را در Google Docs باز کردم و Jumnai بدون اینکه بخواهم آن را برای من خلاصه کرد. بنابراین، Jamnai به‌طور خودکار و بدون اجازه، اسناد خصوصی را که در Google Docs باز می‌کنیم نیز پردازش می‌کند.”
از آنجایی که بنکستون در هوش مصنوعی متخصص است، به خوبی می‌داند که سیستم‌های مبتنی بر هوش مصنوعی از داده‌های موجود برای ایجاد و بهبود خود استفاده می‌کنند، و Jamna گوگل باید با داده‌های کاربران مختلف آموزش ببیند تا عملکرد بهتری داشته باشد.
به گفته بانکستون، گوگل باید روی گزینه‌ای کار کند تا از کاربر در مورد اهمیت و حساسیت داده‌هایش سؤال کند و بعداً آن‌ها را پردازش کند. زیرا برخی داده ها مانند اطلاعات مربوط به امور مالیاتی یا پی دی اف مربوط به اطلاعات یک کالای غیرتجاری، اطلاعات خصوصی و حساس افراد و شرکت ها محسوب می شود.
بنکستون حدس می‌زند که فعال کردن Google Workspace Labs باعث این مشکل شده است. این برنامه به کاربران اجازه می دهد تا از ویژگی های جدیدی استفاده کنند که گوگل زودتر از دیگران آزمایش می کند. اما در این صورت، کاربران کنترلی بر حریم خصوصی خود و میزان داده های استفاده شده توسط گوگل نخواهند داشت.
