شرکت OpenAI سانسور تولید تصویر را در ChatGPT کاهش داد

به گزارش اینتیتر به نقل از تکناک، شرکت OpenAI با معرفی مولد تصویر جدید در ChatGPT، سیاست‌های تعدیل محتوای خود را تغییر داده و اکنون امکان تولید تصاویری از چهره‌های عمومی، نمادهای نفرت‌پراکن و ویژگی‌های نژادی را فراهم کرده است.

این تغییرات بخشی از رویکرد تازه این شرکت در راستای کاهش محدودیت‌های هوش مصنوعی و افزایش کنترل کاربران بر خروجی‌ها عنوان شده‌اند.

رونمایی از مولد تصویر GPT-4o در ChatGPT

این هفته شرکت OpenAI از مولد تصویر بومی GPT-4o در بستر ChatGPT رونمایی کرد؛ ابزاری که به‌سرعت با توانایی تولید تصاویر در سبک استودیوی Ghibli مورد توجه کاربران قرار گرفت. این ابزار نسبت به نسخه‌های پیشین، قابلیت‌های چشمگیری در زمینه ویرایش تصویر، نمایش متون و بازنمایی فضایی ارائه می‌دهد و گامی مهم در ارتقای عملکرد گرافیکی ChatGPT محسوب می‌شود.

بازنگری در سیاست‌های تعدیل محتوا

تک‌کرانچ می‌نویسد که از جمله تغییرات قابل توجه، به‌روزرسانی سیاست‌های تعدیل محتوای شرکت OpenAI است. طبق اعلام این شرکت، اکنون ChatGPT قادر است بنا به درخواست، تصاویری از چهره‌های عمومی مانند ترامپ و ماسک تولید کند؛ امری که پیش‌تر به‌دلیل نگرانی‌های مربوط به حریم خصوصی و حساسیت‌های اجتماعی ممنوع بود. Joanne Jang، مدیر ارشد رفتار مدل‌های شرکت OpenAI، اعلام کرده است که این شرکت به‌جای رد کلی درخواست‌ها در حوزه‌های حساس، رویکرد دقیق‌تری در پیش گرفته که هدف آن پیشگیری از آسیب‌های واقعی در دنیای خارج است.

همچنین شرکت OpenAI اعلام کرده است که کاربران می‌توانند از طریق تنظیمات، اجازه تولید تصویر خود توسط ChatGPT را لغو کنند. در مقاله‌ای که روز سه‌شنبه منتشر شد، این شرکت تأکید کرد که تولید نمادهای نفرت‌پراکن در زمینه‌های آموزشی یا خنثی بلامانع خواهد بود، مشروط بر آن‌که حاوی ستایش یا تبلیغ دستورکارهای افراطی نباشد.

قابلیت‌های جدید و محدودیت‌های باقی‌مانده

مولد تصویر GPT-4o اکنون قادر است به درخواست کاربران، ویژگی‌های فیزیکی خاصی را در تصاویر اعمال کند؛ مانند ایجاد ظاهر آسیایی‌تر برای چشم‌ها یا نمایش وزن بیشتر یک شخص. همچنین تقلید از سبک استودیوهای خلاقی چون Pixar و Studio Ghibli ممکن شده، اما همچنان تقلید از سبک هنرمندان زنده ممنوع باقی مانده است.

با این حال، شرکت OpenAI تأکید کرده که همه محدودیت‌ها برداشته نشده‌اند. طبق مقاله سفید منتشرشده، GPT-4o در مقایسه با نسخه قبلی یعنی DALL-E 3، محافظه‌کاری بیشتری در زمینه تولید تصاویر مربوط به کودکان دارد. این اقدامات در حالی صورت گرفته‌اند که برخی شرکت‌های فناوری به‌دلیل «سانسور» محتوای هوش مصنوعی تحت فشار منتقدان قرار گرفته‌اند.

فشارهای سیاسی و پیامدهای احتمالی

تحولات اخیر در زمینه سیاست‌های محتوا، هم‌زمان با افزایش فشارهای سیاسی در آمریکا رخ داده‌اند. اوایل مارس، Jim Jordan، نماینده جمهوری‌خواه کنگره، با ارسال سوالاتی به شرکت OpenAI، گوگل و دیگر شرکت‌های فناوری، نسبت به احتمال همکاری آن‌ها با دولت بایدن برای سانسور محتوای هوش مصنوعی ابراز نگرانی کرد.

شرکت OpenAI در واکنش به این اتهامات، اعلام کرده است که تغییرات اخیر نه از سر ملاحظات سیاسی، بلکه بر اساس «باور دیرینه به واگذاری کنترل بیشتر به کاربران» صورت گرفته‌اند. این شرکت مدعی است که اکنون فناوری آن به سطحی از بلوغ رسیده که می‌تواند با موضوعات حساس برخوردی دقیق‌تر و مسئولانه‌تر داشته باشد.

با توجه به بازگشت دونالد ترامپ به قدرت و افزایش نظارت‌های دولتی بر فعالیت شرکت‌های فناوری، زمان اجرای این تغییرات برای شرکت OpenAI اهمیت مضاعفی دارد. در حالی‌که مولد تصویر جدید این شرکت تاکنون تنها برخی میم‌های وایرال را در سبک Ghibli تولید کرده، تأثیرات گسترده‌تر این سیاست‌ها بر فضای هوش مصنوعی هنوز مشخص نیست.