سام آلتمن OpenAI در پستی در X اعلام کرد که با این سازمان همکاری کرده است تا ایمنی مدل‌های هوش مصنوعی بعدی خود را آزمایش کند و دسترسی زودهنگام به این مدل‌ها را برای موسسه ایمنی هوش مصنوعی ایالات متحده فراهم کند.
اقدام OpenAI برای همکاری با موسسه ایمنی هوش مصنوعی آمریکا در حالی صورت می‌گیرد که این شرکت در ماه ژوئن قرارداد مشابهی را با موسسه ایمنی هوش مصنوعی بریتانیا امضا کرد. این همکاری در پاسخ به اتهاماتی مبنی بر عدم توجه OpanAI به ایمنی مدل‌های خود در تعقیب فناوری‌های هوش مصنوعی قوی‌تر صورت می‌گیرد.
OpenAI عملاً واحد ایمنی هوش مصنوعی خود را در ماه می منحل کرد. گزارش ها حاکی از آن بود که این شرکت تحقیقات تیم ایمنی خود را به نفع عرضه محصولات جدید کنار گذاشته است که در نهایت منجر به استعفای دو تن از مدیران ارشد تیم شد.
خالق ChatGPT با اعلام اینکه برخی از قوانین خود را که به طور ضمنی از افشای اطلاعات جلوگیری می کرد حذف می کند و کمیسیونی برای بررسی ایمنی هوش مصنوعی ایجاد می کند، به گروه رو به رشدی از منتقدان پاسخ داد. این شرکت همچنین قصد دارد 20 درصد از قدرت پردازش سرورهای خود را به تحقیقات ایمنی اختصاص دهد.
با این حال، تلاش های OpenAI برای افزایش توجه به ایمنی هوش مصنوعی برای برخی ناظران چندان امیدوارکننده نبود. پنج سناتور از جمله برایان شاتز در نامه ای خطاب به آلتمن، آنها سوالاتی را در مورد سیاست های OpenAI مطرح کردند. در پاسخ به نامه مورد بحث، مدیر ارشد استراتژی شرکت نوشت که OpenAI متعهد به اجرای پروتکل های ایمنی سختگیرانه در هر مرحله از فرآیند توسعه مدل های هوش مصنوعی است.
