От идеи к реальности: роль искусственного интеллекта в создании манипулятивных сообщений (на примере сервисов Claude и Gemini)

Аннотация

Статья посвящена особенностям актуального использования современных генеративных языковых моделей для создания манипулятивных сообщений. Авторы исследовали, как нейросетевые алгоритмы могут быть применены в современном общественном дискурсе, активно трансформирующемся под влиянием технологий глубокого машинного обучения. Представлен аналитический обзор возможностей генеративных языковых моделей, таких как Claude и Gemini, в контексте медиалингвистики и их способности к порождению текстов с использованием суггестивных и семантических приемов. В рамках исследования реализован авторский эксперимент, направленный на изучение практической реализации манипулятивных техник в генерируемых текстах, а также их обратного анализа. Авторы выявили ключевые механизмы манипуляции, применяемые моделями, и предложили рекомендации для их этичного использования. Статья подчеркивает важность междисциплинарного подхода к контролю и разработке стандартов работы генеративных языковых моделей с целью минимизации общественной опасности и максимизации общественного блага. Также акцентировано внимание на необходимости повышения прозрачности алгоритмов, предотвращения социальной предвзятости в данных и внедрения механизмов обратной связи. Особое внимание уделено обучению пользователей критическому восприятию информации и развитию медиаграмотности, что становится ключевым фактором защиты от манипулятивных практик в условиях цифровой трансформации общества.