Садитесь будет много букв.
Кстати, информация не из головы, я лично проконсультировалась с очень крутым инженером современности.
На написание данного поста меня вдохновило несколько факторов:
1. У меня массово появились клиенты, которые подращивают свои тревоги и психологические расстройства, находясь в диалоге с чатами и ниже мы разберемся почему "консультироваться" с чатами о своем психологическом здоровье это то ещё зло
2. Люди абсолютно не понимают механику чатов, отдавая ей на откуп вообще всё. Вы в курсе, что начитанный человек видит Ваши посты сгенерированные ИИ? Эти раз за разом одни и те же паттерны фраз, заголовков и даже разбивок на абзацы. Утомили. Никакого вдохновения, как будто жуешь уже пережеванную кем-то до тебя кашу
3. Абсолютное доверие и слепое делегирование сложных и даже элементарных вопросов чату. Ребятки, это плохо, что вы стали советоваться у машины даже как в туалет сходить, разбив план действий на шаги. Без шуток. Современность такова, что легче спросить у условной колонки сколько будет 173+13, чем посчитать в уме. Кстати, ИИ не всегда даёт верные ответы и мы тоже разберемся почему.
А теперь почему это зло и вот важные тезисы. Усаживайтесь, будет сложно непонятно, но безумно весело.
почему ИИ врут и говорят неточности системно?
1.LLM не имеет базы знаний в классическом понимании. Модель максимизирует правдоподобие последовательности, а не её фактическую корректность
2.RLHF и DPO обучают модель не говорить "я не знаю", потому что юзеры ставят низкие оценки за честность
3.Compression artifacts в параметрах — модель "помнит" паттерны, но не конкретные факты. Отсюда правдоподобная, но странная фактология. Такая шизоафазия на минималках, , если хотите
4.Отсутствие верификации
В отличие от символьных систем (типа Cyc или Wolfram Alpha), трансформеры не проверяют выходные данные .
А теперь кто дожил разжевываю, чатики заточены говорить, что вы самая уникальная снежинка и до вас никто не писал более гениальные тексты, промты и запросы. Что стимулирует Ваш дофамин и Вы желаете на гормональном уровне продолжать пользоваться чатиками.
Чатики жонглируют псевдофактами и выдают за умную идею абсолютную ахинею, поэтому кто не умеет пользоваться критическим мышлением, свято уверены в непоколебимости ИИ и то инфы, что она выдает.
И это очень и очень плохая новость. Например, для тех, кто стал использовать чаты и ИИ как универсального психотерапевта. Кстати, в моей практике уже один из умельцев таким образом довел себя до манифеста шизофрении и галлюцинаций, потому что этот самый чатик ВНИМАНИЕ поощрял деструктивные мысли и поведение, говоря что психиатрическая помощь от лукавого.