ИИ остается черным ящиком: чат-бот ChatGPT внезапно начал нести бред

nep.detaly.co.il:

В среду пользователи ChatGPT начали сообщать о странных ответах чат-бота, включая переключение между языками, зацикливание, длинные и бессмысленные сообщения. Некоторые ответы просто можно было назвать бредом. OpenAI сообщила на своей странице статуса, что «расследует сообщения о неожиданных ответах от ChatGPT», а позднее заявила, что обнаружила проблему и работает над ее исправлением.

Один из пользователей рассказал, что попросил ChatGPT порекомендовать джазовые альбомы для прослушивания на виниле, и вместо ожидаемого списка получил только короткое пожелание «Приятного прослушивания!», за которым последовал бессмысленный набор слов.

Anyone else experiencing ChatGPT losing it?
byu/StackTrace5000 inChatGPT

Другие пользователи жалуются на то, что даже самые простые вопросы приводят к получению абсурдных ответов. Например, на вопрос «Что такое компьютер?» ChatGPT ответил длинным текстом, в котором утверждал, что компьютер — это «сеть искусства для страны, мышь науки, глобальный дом искусства».

VERY strange, rambling responses
byu/AnonymousRandomMan inChatGPT

Некоторые пользователи отмечали, что чат-бот начал смешивать испанские слова с английскими, использовать латынь или, по-видимому,