OpenAI Перестраивает Команду Разработчиков ChatGPT

OpenAI проводит масштабные изменения в своей команде Model Behavior, небольшой, но влиятельной группе исследователей, отвечающей за взаимодействие ИИ-моделей компании с пользователями. Об этом сообщило издание TechCrunch.

Согласно служебной записке, направленной сотрудникам, главный научный директор OpenAI Марк Чен объявил, что команда Model Behavior, состоящая примерно из 14 исследователей, присоединится к более крупной исследовательской группе Post Training. Эта группа занимается улучшением ИИ-моделей компании после их первоначального предварительного обучения.

В рамках этих изменений команда Model Behavior теперь будет подчиняться руководителю отдела Post Training Максу Шварцеру. Представитель OpenAI подтвердил эту информацию TechCrunch.

Основательница и руководитель команды Model Behavior Джоанн Джанг также переходит на новую должность, чтобы начать новый проект в компании. В интервью TechCrunch Джанг рассказала, что создает новую исследовательскую команду под названием OAI Labs. Эта группа будет заниматься "изобретением и прототипированием новых интерфейсов для взаимодействия людей с искусственным интеллектом".

За время своего существования команда Model Behavior стала одной из ключевых исследовательских групп OpenAI. Она отвечала за формирование личности ИИ-моделей компании и за снижение так называемой "угодливости" — явления, когда модели ИИ просто соглашаются с убеждениями пользователей и укрепляют их, даже если эти убеждения нездоровые, вместо того чтобы предлагать сбалансированные ответы.

Кроме того, команда работала над решением проблемы политической предвзятости в ответах моделей и помогала OpenAI определить свою позицию по вопросу сознания искусственного интеллекта.

Реорганизация отражает продолжающиеся усилия OpenAI по совершенствованию своих исследовательских подразделений для создания более безопасных и полезных ИИ-систем.