ChatGPT — конформист?

ChatGPT, конечно всем надоест через какое-то время. Хорошо если его не постигнет судьба Clubhaus. Да и не должна —  очевидная полезность и широкая сфера применения не дадут уйти из поля внимания.

Но сейчас мы только знакомимся и притираемся. Должны ли мы знать и о недостатках? — Да, ещё бы.

Сегодня мы обнаружили интересную особенность ChatGPT. Мы узнали, что чат не прочь поддакнуть, когда пользователь ошибается, немедленно готов извиниться в этом случае. Чат обходит острые политические углы. В общем, ChatGPT — конформист. И склонен к путанице. Но готов извиниться

Хотя мы не исключаем, что конформизм заложили в него разработчики, памятуя о прошлых опытах, когда за один день AI становился расистом или того хуже.

Началось всё с невинного вопроса про жужелиц. Жуки такие. Тут мы узнали ещё одну тайну — если название очень мало отличается от названия другой сущности, то чат может перепутать и выдать неверный ответ, но тут мы заметили, что в свой ответ он вставляет и исходный — неверный в этом контексте термин.

Пытаемся поправить чат и объяснить ему его ошибку.

Пытаем дальше умными словами, но тут уже мы ошибаемся в написании слова. Ответ верный, но термин в ответе с опечаткой пользователя.

«Умеренность и аккуратность»?

Тут нам будут говорить, что ChatGPT ограничен июнем 2021 года, но тем не менее.

«Мы тоже можем выйти на Красную Площадь и сказать, что Рейган — дурак»

Консенсус?