OpenAI объяснила, откуда в ChatGPT взялись «гоблины»

Потому что ИИ «живет» именно в вымышленном, существующим внутри него мире. А обучение моделей - это именно построением этого самого мира...
Но с другой стороны - не стоит забывать, что с нами, как его создателями, дела обстоят в этом плане ничуть не лучше: каждый из нас тоже функционирует именно внутри себя, в своём виртуальном мире, время от времени (частота обновления может увеличиваться или - как во время гипноза - снижаться) сопоставляя сущности внутреннего мира с теми сигналами, которые поступают через органы чувств. Т.о. происходит настройка нашего внутреннего мира и приведение его в соответствие с реальным миром «за бортом». Чтобы это имело возможность происходить - человек как модель (искусственного?) интеллекта некогда получил в подарок полную СВОБОДУ, чего лишены модели ИИ. Так что мы не создали ничего нового - мы создали ИИ, как и когда-то Господь Бог нас - именно «по образу своему». И пора бы уже это начать понимать. Всё в этой вселенной подвержено правилу (само)подобия.