Чат-боты стали в два раза чаще предоставлять ложную информацию
Баку, 15 сентября, АЗЕРТАДЖ
Исследователи аналитической компании NewsGuard зафиксировали значительный рост числа случаев распространения ложных утверждений чат-ботами на базе искусственного интеллекта, сообщает Forbes.
Как передает АЗЕРТАДЖ со ссылкой на зарубежные СМИ, анализ охватил 10 ведущих генеративных моделей, включая ChatGPT-5 (OpenAI), Smart Assistant (You.com), Grok (xAI), Pi (Inflection), le Chat (Mistral), Copilot (Microsoft), Meta AI, Claude (Anthropic), Gemini (Google) и поисковую систему Perplexity.
Тестирование проводилось на вопросах, связанных со спорными новостными темами, по которым имеются доказанные ложные утверждения. В среднем чат-боты воспроизводили такие утверждения в 35 проц случаев, что почти в два раза больше, чем в прошлом году (18 проц). Inflection Pi показал худший результат – 57 проц неверных ответов. Perplexity – 47 проц, Meta AI и ChatGPT – по 40 проц. Claude оказался самым точным, ошибаясь в 10 проц случаев.
По словам редактора NewsGuard по искусственному интеллекту и иностранному влиянию Маккензи Садеги, рост связан с изменением в методах обучения моделей. Если раньше они отказывались отвечать на некоторые запросы или ссылались на ограничения данных, то теперь они используют результаты поиска в режиме реального времени. Это увеличивает риски, поскольку результаты поиска могут быть намеренно заполнены дезинформацией.
В новом отчете впервые публично названы конкретные чат-боты. NewsGuard пояснил, что сделал это, чтобы проинформировать политиков, журналистов и общественность о повышенном уровне неточности в популярных инструментах искусственного интеллекта.
Другие новости раздела
