Google запускает SynthID Detector для поимки мошенников
В связи с распространением дипфейков, дезинформации и мошенничества с использованием ИИ в интернете и в учебных заведениях компания Google DeepMind во вторник представила детектор SynthID. Этот новый инструмент сканирует изображения, аудио, видео и текст на наличие невидимых водяных знаков, встроенных в растущий набор моделей ИИ от Google.
SynthID Detector, разработанный для работы с несколькими форматами в одном месте, призван повысить прозрачность за счёт выявления контента, созданного искусственным интеллектом Google, включая аудио-ИИ NotebookLM, Lyria и генератор изображений Imagen, а также выделения фрагментов, на которых с наибольшей вероятностью могут быть водяные знаки.
«При работе с текстом SynthID определяет, какие слова будут сгенерированы следующими, и изменяет вероятность выбора подходящих слов, которые не повлияют на общее качество и полезность текста», — говорится в демонстрационной презентации Google.
«Если отрывок содержит больше примеров предпочтительного выбора слов, SynthID определит, что он содержит водяной знак», — добавил он.
SynthID корректирует вероятность выбора слов при генерации текста, встраивая невидимый водяной знак, который не влияет на смысл или читаемость результата. Этот водяной знак впоследствии можно использовать для идентификации контента, созданного приложением Google Gemini или веб-инструментами.
Google впервые представил технологию SynthID в августе 2023 года как инструмент для обнаружения изображений, созданных искусственным интеллектом. С запуском SynthID Detector Google расширил эту функцию, включив в неё аудио, видео и текст.
В настоящее время SynthID Detector доступен в ограниченном выпуске, и журналисты, преподаватели, дизайнеры и исследователи могут записаться в лист ожидания, чтобы опробовать программу.
По мере распространения инструментов генеративного искусственного интеллекта преподавателям становится всё сложнее определить, является ли работа ученика оригинальной, даже если она предназначена для отражения личного опыта.
Использование искусственного интеллекта для мошенничества
Недавний отчёт New York Magazine осветил эту растущую проблему.
Профессор по этике в сфере технологий в Университете Санта-Клары дал задание написать эссе на тему личных размышлений и обнаружил, что один из студентов использовал для этого ChatGPT.
В Университете Арканзаса в Литл-Роке другой профессор обнаружил, что студенты используют ИИ для написания вступительных эссе и определения целей курса.
Несмотря на рост числа студентов, использующих модель ИИ для списывания на занятиях, в 2023 году компания OpenAI закрыла своё программное обеспечение для обнаружения ИИ, сославшись на низкую точность.
«Мы признаём, что распознавание текста, написанного искусственным интеллектом, было важным предметом обсуждения среди преподавателей, и не менее важным является осознание ограничений и влияния классификаторов текста, созданных искусственным интеллектом, в классе», — заявили тогда в OpenAI.
Проблему мошенничества с использованием ИИ усугубляют новые инструменты, такие как Cluely — приложение, разработанное для обхода программного обеспечения для обнаружения ИИ. Cluely, разработанное бывшим студентом Колумбийского университета Роем Ли, позволяет обойти обнаружение ИИ на уровне рабочего стола.
Ли собрал 5,3 миллиона долларов, чтобы создать приложение, которое можно было использовать для списывания на экзаменах и собеседованиях.
«Он стал популярным после того, как я опубликовал видео, на котором я использую его во время интервью на Amazon, — ранее рассказал Ли Decrypt. — Используя его, я понял, что пользовательский опыт действительно интересен — никто не рассматривал идею полупрозрачного наложения на экран, которое видит ваш экран, слышит ваш звук и действует как второй игрок для вашего компьютера».
Несмотря на многообещающие инструменты, такие как SynthID, многие современные методы обнаружения ИИ остаются ненадёжными.
В октябре компания Decrypt провела тест ведущих детекторов ИИ и обнаружила, что только два из четырёх ведущих детекторов ИИ — Grammarly, Quillbot, GPTZero и ZeroGPT — могли определить, кто написал Декларацию независимости США — люди или ИИ.
Источник:
