Что о нас думает ИИ?

Речь не о понимании вопроса, который вы задали, а понимании сути проблемы, относительно которой был задан вопрос! Нейросеть может тупо наскрести данных по миру и постараться скомпилировать вам ответ, создавая иллюзию того, что она типа сама «решила» проблему, генерируя новые знания. А на самом деле - это не новые знания, это для вас они могут только казаться новыми, поскольку ранее вы с ними были не знакомы.

Последний пример: просил помочь в простом вопросе - «кто возглавляет такой-то департамент такой-то службы». Поскольку ответа внятного не получил - два раза переформулировал свой промпт, но всегда тупо получал ответ в виде 3 человек. Кто из них главный - машина так и не решила. Почему? Потому что не было данных о самом дирике, а кто главнее из трех оставшихся и кто может выступать в роли и.о. - это слабо для нее оказалось. Вопрос то она поняла правильно, но суть решаемой проблемы (а о ней я «беседовал» с ней ранее) или не поняла, или не смогла справиться с решением...

Так в вашем примере машина ПОНЯЛА вопрос и суть проблемы, просто не смогла на него ответить, т.к. данных было недостаточно.
Точно так же живой человек может найти тех же 3 человек из организации, но без данных о директоре он аналогично не сможет правильно вам ответить.
И это вообще не про мышление, а про работу с поиском и справочной информацией. Это вам и гугл сделает, не надо ИИ для этого.