Одиночество в Сети: ИИ вытесняет человечество из интернета
. Чем это грозит и ведется ли борьба с ботами и нейросетямиКак искусственный интеллект вытесняет человека из интернета
Одиноко ли человечество во Вселенной или где-то есть другие разумные существа? На этот вопрос наука пока не может дать ответ. Но зато точно известно, что люди не одни в мире виртуальном. Больше того, во Всемирной паутине уже довольно тесно: недавно вышло исследование, согласно которому в 2023 году почти половина всего интернет-трафика в мире была сгенерирована не настоящими пользователями, а различными ботами.
РБК Life с экспертами разобрались, что нам грозит, как выглядит искусственная веб-активность и как сегодня идет борьба со спамом.
Боты наступают
Американская компания в области кибербезопасности Imperva каждый год публикует Bad Bot Report — большой отчет, посвященный ботам в интернете. В этом году главная цифра, которая содержится в исследовании, — 49,6%. Именно столько всего интернет-трафика в 2023 году сгенерировали боты. Так что виртуальное пространство мы делим почти поровну с искусственным интеллектом.
Важно отметить, что это не просто довольно шокирующая цифра, но самый большой показатель за все время составления отчета, первый выпуск которого вышел в 2013 году.
Исследователи из Imperva связывают такой рост с внедрением и распространением генеративного искусственного интеллекта и больших языковых моделей — привет, ChatGPT. Для создания его и подобных ему систем используют ботов, которые сканируют Сеть и собирают данные, на которых учится модель.
«Интернет-трафик, генерируемый автоматизированными ботами, скоро превзойдет долю, исходящую от людей, что изменит подход к созданию и защите сайтов и приложений, — уверен генеральный менеджер по безопасности Imperva Нанхи Сингх. — По мере появления большого количества инструментов с поддержкой искусственного интеллекта боты станут вездесущими».
И это не просто оценки одной конкретной компании. Вот, например, Европол в своем исследовании пишет, что уже к 2026 году до 90% контента в интернете будет создано синтетически, то есть ИИ [1].
«Мы привыкли ассоциировать интернет с людьми, которые пишут письма, сообщения в чатах, ведут блоги и прочее. Но на самом деле не люди основные пользователи интернета, — рассуждает заместитель генерального директора по научно-технической работе Уральского центра систем безопасности Николай Домуховский. — Посмотрите на устройства, которые вас окружают: смартфон, «умные» часы, фитнес-браслет, телевизор, робот-пылесос, «умный» холодильник, «умная» колонка, камеры видеонаблюдения и, возможно, даже «умные» лампы, — все эти устройства тоже подключены к интернету. И они генерируют различные данные и без участия человека: информация с датчиков, команды, которыми обмениваются разные устройства, обновления программного обеспечения и многое другое. И на одного человека сегодня таких устройств может приходиться более десятка».
Но это те единицы и нули двоичного кода, что никогда и не предназначались для человека. А ведь ИИ создает и вполне себе «пользовательскую» информацию.
ИИ-слизь
Следы «искусственной» активности можно встретить во многих местах всемирной паутины, но главным их рассадником стали социальные сети.
Например, в Facebook (принадлежит корпорации Meta, которая признана в России экстремистской и запрещена) тысячи лайков набирают странные картинки, сгенерированные искусственным интеллектом, на которых Иисус Христос оказывается в центре самых неожиданных сюжетов. Например, Сын Божий оседлал гигантскую ящерицу, или спасает жертв авиакатастрофы, или на заднем фоне Тайной вечери как ни в чем ни бывало стоит вертолет [2]. Причем под этими сомнительными, мягко говоря, изображениями сотни комментариев в духе «Аминь» или эмодзи со сложенными в молитвенном жесте ладонями. Ну разве нормальный человек станет оставлять осмысленный комментарий «Аминь» под мультяшным Иисусом верхом на динозавре? А вот ИИ, который понял, что люди положительно реагируют на религиозный контент, может создать бесконечное количество изображений Христа. И другие боты будут такие посты комментировать.
Исследователи интернета из Стэнфордского университета изучили 120 профилей в Facebook, которые регулярно постят сгенерированный ИИ контент [3]. Оказалось, что некоторые страницы управляются одними и теми же администраторами, а значительная часть аккаунтов была украдена у их настоящих владельцев.
Среди популярных сюжетов, конечно, Иисус — чаще всего почему-то в компании стюардесс-азиаток или, мягко говоря, в морском антураже: Иисус-краб или в костюме из креветок. Другой расхожий мотив — изображения темнокожих детей и их необычных, если не сказать невозможных, поделок из пластиковых бутылок или, например, гвоздей. Среди произведений такого «детского искусства» нередко попадаются ростовые статуи... правильно, Иисуса [4]. А вот необычайно правдоподобные тигры из автомобильных покрышек могут удивить, наверное, только англоязычных пользователей соцсети, которые никогда не видели во дворе обычного российского дома лебедей из того же вторсырья.
Примечательно, что подавляющее большинство подобных публикаций в Facebook не сопровождаются плашкой с предупреждением, что перед пользователем искусственно сгенерированный контент, — хотя по правилам самой площадки такое предупреждение обязательно. Но в Meta засилье ботов не комментируют. [5]
Как утверждают эксперты, больше всего ИИ-слизи (так некоторые специалисты прозвали созданный нейросетями контент) в TikTok. Причем сама площадка, похоже, не особо против такого развития дел. Наоборот, как утверждают источники некоторых СМИ, компания рассматривает возможность «вскормить» новых звезд, но вместо живых людей это будут видео, сгенерированные ИИ [6]. Якобы боссов TikTok не устраивает нынешняя ситуация, когда тиктокеры с миллионной аудиторией получают крупные рекламные контракты, от которых сама площадка никакой прибыли не имеет. А когда цифровые знаменитости потеснят «биологических», договариваться рекламодатели придут к тем, кто командует ИИ. Разумеется, сама компания такие планы не подтверждает.
И нет им числа
Сами соцсети и прочие площадки не горят желанием раскрывать число ботов у себя. Даже Илону Маску пришлось дойти чуть ли не до суда, чтобы докопаться, сколько искусственных страниц в «Твиттере», — и то нет уверенности, что оценки в 8%, которые мелькали в прессе, правдивы [7].
Опрошенные РБК Life эксперты сходятся во мнении, что в российских соцсетях ботов немало.
«У нас ситуация схожа с глобальной, — считает IT-MBA профессор, советник по экономике и социологии РАЕН Антон Баланов. — Согласно экспертным оценкам, в таких популярных соцсетях, как «ВКонтакте» и «Одноклассники», боты могут давать 30–40% всего трафика. В Telegram они также активно используются, хотя точные цифры неизвестны».
По словам руководителя отдела маркетинга компании Adlook.me Артема Автамонова, искусственный трафик в российских соцсетях «иногда может сравниться с активностью реальных пользователей».
«В некоторых коммерческих группах во «ВКонтакте» количество ботов доходит до трех четвертей общей массы подписчиков. Во многом то же справедливо и в отношении всех других соцсетей, включая Telegram, Facebook, ОК и т.п., — говорит IT-предприниматель Денис Житняков. — Эсэмэмщиков, ведущих коммерческие группы и чаты, можно понять: на уровне бытовой логики суждение «будет больше подписчиков — будут серьезнее воспринимать» выглядит разумно. Кроме того, этих же ботов, которые являются массовкой для создания иллюзии большой базы подписчиков, зачастую переиспользуют, чтобы накручивать лайки, репосты и комментарии под постами группы».
Но есть на просторах соцсетей и более изощренные подделки, правдоподобно прикидывающиеся аккаунтами настоящих пользователей.
«С помощью средств автоматизации такие аккаунты пишут живым людям. В лучшем случае — с предложением вступить в какие-либо группы, то есть выполняя фактически рекламную функцию. В худшем — участвуют в цепочке мошеннических действий по обману или вымогательству, — отметил Житняков. — Выгода для создателей таких ботов и вред для добросовестных пользователей здесь очевидны. Поэтому на борьбу именно с такими ботами крупные ресурсы направляют основные усилия».
А вот директор Координационного центра доменов .RU/.РФ Андрей Воробьев считает, что во «ВКонтакте» и ОК ботов «не так чтобы много»: «Российские социальные сети активно борются со спамом, а обязательная авторизация через СМС вкупе с ведущейся сегодня борьбой против серых сим-карт осложняет массовую регистрацию фальшивых аккаунтов».
Вечная борьба
Хотя Всемирная паутина по меркам истории все еще довольно новая вещь, но человечество уже сталкивалось в ней с нашествием ботов.
«Буквально 15 лет назад электронная почта просто погибала под объемами нежелательной корреспонденции, то есть спама, — вспоминает Николай Домуховский. — Оценки количества спама в общем трафике электронной почты варьировались в диапазоне от 90 до 99% — жуткое соотношение! Но в 2010 году произошел перелом и объем спама снизился более чем на 80%. Это было не какое-то чудо, а ответ со стороны технологии: были внесены определенные изменения в принципы работы электронной почты и добавлены новые методы контроля за распространением спама, которые и позволили добиться такого результата».
И сейчас мы наблюдаем новый этап борьбы со спамом. Правда, в этот раз средства могут многим не понравиться.
«Судя по всему, анонимность в Сети останется в прошлом, — прогнозирует Домуховский. — Уже сегодня большинство сервисов не предоставляют возможность просматривать информацию и тем более публиковать что-либо без регистрации на этом сервисе, но дальше все будет только ужесточаться. Регистрацию на отдельных ресурсах повсеместно заменят централизованные сервисы регистрации, а создать множество поддельных учетных записей тех же Google или Apple уже не так просто. Эти централизованные сервисы все более жестко будут требовать подтверждения реальной личности пользователя, что тоже уже мало кого удивляет: предоставление номера мобильного телефона давно уже норма, а где-то приходится даже и паспортные данные указывать для регистрации. В этих условиях создать одноразовый аккаунт для вброса фейковой информации становится слишком накладно, а значит, количество таких информационных манипуляций будет уменьшаться».
Теория заговора
В промежутке между борьбой с прививками и пропагандой плоской Земли сторонники теорий заговоров время от времени высказывают мысли, над которыми бывает интересно поразмышлять. Уже не один год в определенных кругах популярна так называемая теория мертвого интернета. Она гласит, что настоящая Всемирная паутина, какой мы ее знаем и любим, «умерла» то ли в 2016-м, то ли в 2017 году [8]. В том смысле, что живых юзеров в ней почти не осталось. А львиная доля того, что мы видим на экранах компьютеров и смартфонов сейчас, — лишь продукт работы ботов. Якобы именно они в основном публикуют контент, оставляют лайки и комментарии. Как знать, может, и этот текст был написан не живым человеком, а сообразительным искусственным интеллектом.
Зародилась теория мертвого интернета в том же бурлящем котле анонимных форумов вроде 4chan, что подарил нам и другие не самые очевидные истории вроде рептилоидов, притаившихся во властных кругах, и плоской Земли. Пару лет назад все доводы в пользу теории засилья ботов фанаты собрали на отдельном сайте [9]. Аргументы там примерно такие: «Раньше я переписывался в интернете с кучей разных людей на разных форумах, а в последние годы они просто исчезли. Каждый год я вижу новости об «уникальных» природных явлениях, но каждый раз оказывается, что это просто астероид...» Разумеется, все это не может происходить само по себе — самое логичное с точки зрения сторонников таких взглядов объяснение: правительство США с помощью искусственного интеллекта манипулирует людьми по всему миру.
Похоже, благодаря новому исследованию, теория получит новых сторонников.
