ChatGPT и аналоги: можно ли доверять ИИ-тексту

Нейросеть выдаёт текст уверенно, гладко и мгновенно - и именно эта уверенность опаснее всего. ИИ-текст звучит убедительно независимо от того, правда в нём или вымысел. Разберёмся, где нейросетям можно доверять, а где обязательно проверять.

Как нейросеть на самом деле создаёт текст

Языковая модель не «знает» факты и не понимает смысл так, как человек. Она предсказывает следующее наиболее вероятное слово на основе огромного массива текстов. Результат выглядит осмысленно, потому что статистически правдоподобен - но правдоподобие и правда это не одно и то же.

Что такое галлюцинации ИИ

Галлюцинация - это когда модель выдаёт выдуманную информацию с тем же уверенным тоном, что и достоверную. Типичные примеры:

• несуществующие научные статьи и книги в списке литературы;
• выдуманные цитаты, приписанные реальным людям;
• неверные даты, цифры и статистика;
• ссылки на исследования, которых никогда не было.

Опасность в том, что галлюцинация ничем не выделяется в тексте - она оформлена так же аккуратно, как и верные факты.

Где ИИ-тексту можно доверять

Есть задачи, в которых нейросети надёжны, потому что там нет «фактов для проверки»:

• структура и план текста;
• перефразирование и упрощение ваших собственных формулировок;
• черновик, который вы потом наполните проверенным содержанием;
• редактура: поиск повторов, канцелярита, логических провалов;
• идеи, варианты заголовков, формулировки.

Где доверять нельзя без проверки

Любую конкретику из ИИ-текста - цифры, даты, имена, цитаты, источники - нужно считать гипотезой, пока вы не подтвердили её сами.

Особенно осторожно стоит относиться к:

• статистике и числовым данным;
• историческим датам и событиям;
• цитатам и их авторству;
• юридическим и медицинским формулировкам;
• библиографии.

Как проверять ИИ-текст: короткий алгоритм

1. Выделите все факты. Цифры, имена, даты, ссылки - всё конкретное.
2. Проверьте каждый по независимому источнику. Не верьте, что нейросеть «подтвердит» сама себя - спросите учебник, базу статей, официальный сайт.
3. Найдите первоисточник цитат. Если источник не находится - цитата, скорее всего, выдумана.
4. Оцените логику. Бывает, что текст гладкий, но аргументы противоречат друг другу.
5. Перепишите своим голосом. Так вы заодно ещё раз пройдёте текст на смысл.

Как использовать ИИ-текст разумно

Лучшая стратегия - относиться к сгенерированному тексту как к черновику от стажёра: быстрому, полезному, но требующему проверки. Берите у нейросети структуру и формулировки, а факты и выводы оставляйте под своим контролем. Подробнее о том, как использовать нейросети в учёбе легально и с пользой, мы разбирали отдельно.

Коротко

ИИ-тексту можно доверять там, где нет фактов для проверки: структура, перефразирование, редактура. И нельзя доверять без проверки там, где есть конкретика: цифры, даты, цитаты, источники. Нейросеть - отличный черновик, но финальную ответственность за текст несёте вы.