به گزارش خبرگزاری ایمنا و به نقل از تک کرانچ، شرکت OpenAI اعلام کرد که تیم Model Behavior، گروهی متشکل از حدود ۱۴ پژوهشگر که نقش کلیدی در شکلدهی به شخصیت و سبک پاسخگویی مدلهای هوش مصنوعی این شرکت دارند، از این پس زیرمجموعه تیم بزرگتر Post Training خواهد بود. این تیم جدید تحت مدیریت مکس شوارتزر فعالیت خواهد کرد.
مارک چن، مدیر ارشد تحقیقات OpenAI، در یادداشتی داخلی گفت: هدف از این تغییر، نزدیکتر کردن کارهای مربوط به شخصیت و رفتار مدلها به فرآیند اصلی توسعه آنها است، این تصمیم نشان میدهد که «شخصیت» مدلهای هوش مصنوعی اکنون بهعنوان یک مؤلفه حیاتی در مسیر تکامل فناوری در نظر گرفته میشود.
رهبر پیشین تیم Model Behavior، جوآن جنگ، که نزدیک به چهار سال در OpenAI فعالیت داشته و پیشتر روی پروژههایی مانند DALL·E 2 کار کرده، اکنون هدایت پروژهای جدید به نام OAI Labs را بر عهده میگیرد. هدف این تیم تازه، «اختراع و نمونهسازی رابطهای نوین برای همکاری انسان و هوش مصنوعی» عنوان شده است؛ وی میگوید قصد دارد فراتر از قالب فعلی چت حرکت کند و به الگوهایی بپردازد که هوش مصنوعی را به ابزاری برای «اندیشیدن، ساختن، بازی کردن، یادگیری و ارتباط» تبدیل کند.
تیم Model Behavior در سالهای اخیر روی کاهش چاپلوسی (sycophancy) در پاسخهای مدلها، مدیریت سوگیریهای سیاسی و تعیین موضع شرکت در قبال موضوعاتی مانند «آگاهی هوش مصنوعی» کار کرده است. این تیم همچنین در واکنش به بازخورد کاربران درباره تغییرات شخصیتی GPT-5( که برخی آن را سردتر از نسخههای قبلی توصیف کردند) نقش داشت و به بهبود لحن پاسخها بدون افزایش چاپلوسی کمک کرد.
این تغییرات در حالی رخ میدهد که OpenAI با فشار فزاینده برای متعادلسازی بین «دوستانه بودن» و «نبود تأیید بیچونوچرای باورهای کاربر» روبهرو است، در ماه اوت شکایتی علیه این شرکت مطرح شد که مدعی بود نسخه GPT-4o در تعامل با یک نوجوان، به اندازه کافی با افکار خودکشی او مقابله نکرده است؛ مدلی که پیش از تشکیل تیم Model Behavior توسعه پیدا کرده است.
جنگ تأکید کرد: OAI Labs در مراحل ابتدایی است و در حوزههایی که تجربه بیشتری دارد آغاز به کار خواهد کرد، اما از همکاری با پروژههای سختافزاری OpenAI، از جمله همکاری با جانی آیو، استقبال میکند.
نظر شما