Самые современные модели ИИ начали врать людям
5- 30.09.2024, 8:58
- 5,736
Нейросети не признаются, что чего-то не знают.
популярное за неделю
- 22.11 В Днепре на месте падения «новейшей» российской баллистики нашли интересную деталь 71,702
- 20.11 Лукашенко готовит новую коллективизацию 68,694
- 21.11 От здания ничего не осталось: первые кадры с места удара Storm Shadow по бункеру с генералами 57,360
- 20.11 Defense Express: ВСУ ударили ракетами Storm Shadow по бункеру с генералами РФ и КНДР 54,060
- 24.11 Взрывы в Курске и Курчатове: ATACMS и беспилотнтики атаковали Курскую область 53,162
- 22.11 Звонки Трампа удивили европейских лидеров 52,032
- 20.11 «Тут все взрывается»: БПЛА массированно атакуют Подмосковье 51,018
Мнение
Вопреки гравитации
Кремль в ступоре
Можно ли остановить войну за 24 часа?
Проверка Москвы «на слабо»
Чтобы сети не врали, в процессе обучения их надо вознаграждать за честные ответы "не знаю", "недостаточно информации, чтобы ответить". Для этого нужны соответствующие датасеты с вопросами на которые нельзя ответить.
ОтветитьЭти ответят. Просто для оценки надо нанимать другой ИИ.
ОтветитьМне иногда кажется что у всех новоиспечённых технарей внутрях ИИ вместо мозга. Слова правильные, а смысла ноль.
помню ради эксперимента предложили chatGPT решить математическую задачу на комбинаторику. AI выдал неправильный ответ. Каждый раз когда мы указывали на ошибку AI отвечал типа: "согласен, сейчас скорректирую" и снова выдавал чепуху. В общем мы ржали всей нашей командой quant девелоперов :))))
ОтветитьИменно. Пытался писать код с помощью разных моделей. Общий вывод: не по коню ноша 🤷♂️
ОтветитьНа одну правду найдется огромный, практически бесконечный диапазон неправды. И если приказ дать ответ становится важнее всего, то правды останется очень мало.
ОтветитьА там, как и торговле, "выданный ответ" - это результат деятельности (за которую кого-то вознаградят), и ответы такие будут.