Школьники Латвии не смогли отличить ИИ от человека: рост рисков в День безопасного интернета

Сложность распознавания ИИ-контента: новый вызов для медиаграмотности

Распознать контент, сгенерированный искусственным интеллектом — будь то фотография или текст, — становится все более трудной задачей даже для тех, кто активно пользуется новыми технологиями. Этот факт, как сообщает портал LSM+, стал очевиден во вторник, 10 февраля, в рамках мероприятий, приуроченных ко Дню безопасного интернета. Более сотни школьников, участвовавших в программе, признались, что регулярно применяют ИИ в своей повседневной учебной деятельности, однако по итогам специальной проверки их уверенность в собственной способности к детекции ИИ-созданий заметно пошатнулась.

В рамках мероприятий для школьников был проведен модифицированный тест Тьюринга, направленный на проверку способности различать материалы, созданные человеком, и те, что вышли из-под пера нейросетей. Результаты оказались показательными: в 40% случаев участники не смогли правильно определить, где текст написан человеком, а где сгенерирован искусственным интеллектом, ошибочно принимая машинный текст за человеческий.

Риски манипуляции: от фейков до кибербуллинга

Помимо сложности в различении текстового контента, эксперты обратили особое внимание на риски, связанные с манипулированием изображениями и фотографиями, созданными ИИ. Майя Катковска, руководитель Латвийского центра безопасного интернета, подчеркнула, что неспособность молодежи распознавать искусственно созданные или отредактированные фотоснимки несет прямые угрозы интернет-безопасности. Генеративный ИИ, обладая все большей изощренностью, открывает новые возможности для распространения дезинформации.

«Это также показывает, что не всем, в том числе молодежи, удается распознать искусственно созданные или отредактированные фотографии, а это уже риски интернет-безопасности», — отметила Катковска, комментируя итоги проверки.

Среди конкретных угроз были названы потенциал для травли и унижения, в том числе через быстрое агрегирование общедоступной информации о несовершеннолетних. Особую тревогу вызывает возможность создания фейковых интимных изображений, что требует повышенного внимания как со стороны образовательных учреждений, так и родителей.

Использование ИИ в образовании: двойственный характер

Признание более ста школьников в ежедневном использовании ИИ в учебе отражает растущую интеграцию этих инструментов в образовательный процесс. Современные генеративные модели, такие как те, что создают текст (например, ChatGPT, Claude, Google Gemini), активно применяются для помощи в выполнении заданий и подготовке материалов. В то же время, как отмечают специалисты в области образования, чрезмерная зависимость от таких инструментов может привести к атрофии навыков критического мышления и самостоятельного анализа.

В Латвии уже существует понимание необходимости регулирования и обучения осмысленному использованию ИИ, однако рекомендации для студентов и школьников часто оказываются либо недостаточно известными, либо слишком общими. Эксперты в области образования указывают на необходимость разработки более практичных руководств, объясняющих, как интегрировать ИИ в разные учебные программы ответственным образом.

Экспертный взгляд: угрозы, зафиксированные в исследованиях

Проблема распознавания ИИ-контента не является уникальной для Латвии. Международные исследования, например, проведенные Microsoft, показали, что общий процент успешного распознавания ИИ-изображений человеком колеблется в районе 62%. При этом люди демонстрируют большую способность отличать поддельные портреты людей (благодаря врожденному фокусу на лицах), но сталкиваются с трудностями при анализе сгенерированных пейзажей и городских сцен. Сложность возрастает, если в изображении отсутствуют явные стилистические артефакты, характерные для старых генеративных моделей.

Риски, связанные с генеративным ИИ, являются предметом обсуждения на глобальном уровне. Среди наиболее релевантных угроз эксперты выделяют рост объема некачественного или ложного контента, потенциальный вред от ошибочных ответов систем, негативное влияние на рынок труда и рост цифрового мошенничества. Внедрение таких технологий также поднимает серьезные этические вопросы, требующие правового регулирования, как это уже происходит на уровне Европейского Союза с принятием соответствующих актов.

Перспективы и задачи Центра безопасного интернета

Осознавая масштабы проблемы, Латвийский центр безопасного интернета ставит перед собой ряд приоритетных задач на текущий год, напрямую связанных с вызовами, порожденными ИИ. В фокусе внимания остаются вопросы кибербезопасности подростков, изучение инструментов контроля и надзора в сети, а также повышение уровня медиаграмотности населения в контексте новых технологий.

Как подчеркивает Катковска, необходима активная просветительская работа с родителями о том, как обсуждать с детьми правила безопасности, включая недопустимость публикации личной информации и недоверие к анонимным контактам. Подростки должны четко понимать, что при столкновении с травлей, шантажом или нежелательным контентом им необходимо немедленно обращаться за помощью к взрослым, зная при этом, например, телефон доверия.

Технологии ИИ развиваются с огромной скоростью, и регуляторам, а также образовательным системам, крайне сложно успевать за ними. В Латвии, как и в мире, акцент смещается на повышение критического мышления и развитие навыков верификации информации, чтобы пользователи, особенно молодежь, могли ответственно ориентироваться в цифровой среде, где грань между реальным и сгенерированным становится все более размытой.