Проблема идентификации манипуляции в диктуме нейросетей
https://doi.org/10.28995/2686-7249-2025-3-51-58
Аннотация
Научное исследование имеет целью разработку методов идентификации манипулятивного воздействия, реализуемого новым типом агенса, имеющего техногенную природу – нейросетью. В работе осуществляется анализ манипулятивных стратегий и приемов, генерируемых большими языковыми моделями ChatGPT и Gemini (Bard), с учетом их влияния на коллективного и индивидуального пациенса и формирования мнения о событиях. Особое внимание уделяется выявлению функциональных, смысловых и когнитивных аспектов манипулятивных актов в ответах нейронных сетей на запросы пользователей. Исследование предлагает подходы для возможной разработки инструментов эффективной оценки и распознавания манипулятивного воздействия в диктуме нейросетей, а также выдвигает гипотезы относительно возможности выделения дискурсивных маркеров, которые могут указывать на наличие манипулятивного воздействия в процессе использования нейросетей. Делается вывод о комплексном и амбивалентном характере манипулятивных маркеров в электронном диктуме, что значительно усложняет их типологизацию. Полученные результаты исследования могут быть полезны для разработки алгоритмов, направленных на повышение надежности, эффективности и безопасности использования нейронных сетей в различных областях применения, включая обработку естественного языка, анализ данных и другие.
При поддержке: Публикация подготовлена в рамках проекта РНФ 22-18-00594 «Когнитивные модели идентификации и противодействия манипуляциям в медийном пространстве».
Об авторах
Е. Л. Боярская
Балтийский федеральный университет им. Иммануила Канта
Россия
Россия
Боярская Елена Л. - кандидат филологических наук.
236000, Калининград, ул. Александра Невского, д. 14
Э. И. Бархатова
Балтийский федеральный университет им. Иммануила Канта
Россия
Россия
Бархатова Эльвира И. - кандидат филологических наук.
236000, Калининград, ул. Александра Невского, д. 14Список литературы
1. Боярская, Шевченко, Томашевская 2023 – Боярская Е.Л., Шевченко Е.В., Томашевская И.В. Манипуляция: структура событийного фрейма // Современная лингвистика: от теории к практике: Труды и материалы III Казанского Международного лингвистического саммита / под ред. И.Э. Ярмакеева, Ф.Х. Тарасовой. Казань, 2023. С. 173–177.
2. Заботкина, Боярская 2023 – Заботкина В.И., Боярская Е.Л. Концептуальная структура бинарной аксиологической оппозиции истина – ложь // Слово.ру: балтийский акцент. 2023. Т. 14. № 1. С. 126–136.
3. Литяйкина 2021 – Литяйкина А.И. Искусственный интеллект и его роль в жизни человека // Контентус. 2021. № 3 (104). URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-i-ego-rol-v-zhizni-cheloveka (дата обращения 15 мая 2024).
4. Ackerman 2015 – Ackerman F. The concept of manipulativeness // Philosophical Perspectives. 2015. No. 9. P. 335–340.
Рецензия
Для цитирования:
Боярская Е.Л., Бархатова Э.И. Проблема идентификации манипуляции в диктуме нейросетей. ВЕСТНИК РГГУ. Серия «Литературоведение. Языкознание. Культурология». 2025;(3):51-58. https://doi.org/10.28995/2686-7249-2025-3-51-58
For citation:
Boyarskaya E.L., Barkhatova E.I. Identification of manipulation in the dictum of neural networks. RSUH/RGGU Bulletin: “Literary Teory. Linguistics. Cultural Studies”, Series. 2025;(3):51-58. (In Russ.) https://doi.org/10.28995/2686-7249-2025-3-51-58
Просмотров:
18
Послать статью по эл. почте 