Как новая модель ChatGPT назвала пользователя обезьяной и не захотела объяснить это

Администратор Telegram-канала Ai molodca поделился удивительной историей своего знакомого, связанной с использованием платной версии ChatGPT под названием o3-mini-high. Эта модель, как и другие представители O-семейства, обладает особенной способностью рассуждать. Перед тем как дать ответ, она формирует внутреннюю цепочку мыслей, которую могут наблюдать пользователи. В одной из таких цепочек ChatGPT произнесла:

Обезьяна, видишь ли, обсуждает

Когда пользователь задал прямой вопрос о том, почему искусственный интеллект назвал его обезьяной, ChatGPT не смогла ответить и выдала ошибку.

Хотя детали всего диалога не известны, как и точные пользовательские инструкции для ИИ, возникает множество вопросов. Не исключено, что нейросеть могла «оговориться», а затем отказалась от дальнейших объяснений из-за внутренних ограничений, установленных разработчиками, касающихся таких высказываний.