NYT узнала о краже секретной переписки у компании — разработчика ChatGPT
В начале прошлого года неизвестному хакеру удалось получить доступ к внутренним системам обмена сообщениями американской компании OpenAI — разработчика чат-бота ChatGPT и похитить данные об искусственном интеллекте, которые, как считают ряд сотрудников, могут представлять угрозу национальной безопасности США, выяснила The New York Times (NYT).
По словам источников газеты, осведомленных об инциденте, хакер выкрал переписки, в которых сотрудники OpenAI обсуждали новейшие технологии в области ИИ, однако ему не удалось проникнуть в системы, где компания непосредственно размещает наработки по искусственному интеллекту.
О похищении секретных переписок руководители OpenAI рассказали во время общего собрания в офисе компании в Сан-Франциско в апреле прошлого года и проинформировали об этом совет директоров, уточнили собеседники NYT. Однако делиться данными о взломе публично в компании не стали, поскольку никакая информация об их клиентах или партнерах не была украдена.
Как отмечает NYT, некоторые сотрудники IТ-компании после известий о краже переписок опасались, что их наработки в итоге могут оказаться у иностранных держав, таких как Китай, что в конечном итоге может поставить под угрозу национальную безопасность США. В то же время руководство OpenAI не сочло инцидент угрозой нацбезопасности, поскольку решило, что хакер действовал в одиночку, без связей с иностранным правительством.
Кроме того, по данным газеты, после утечки Леопольд Ашенбреннер, технический менеджер программы, суть которой в том, чтобы будущие технологии искусственного интеллекта не наносили серьезного вреда, направил совету директоров OpenAI служебную записку, в которой утверждал, что компания не приняла достаточных мер для предотвращения кражи ее секретов китайским правительством и другими иностранными противниками. Впоследствии топ-менеджер был уволен по обвинению в утечке информации за пределами компании, напоминает NYT. Сам он называл свое увольнение политически мотивированным, намекнув в недавнем подкасте на неспособность OpenAI защитить собственные секреты.
В компании после этого заявили, что увольнение Ашенбреннера не было связано с версией, которую тот высказал. «Хотя мы разделяем его приверженность созданию безопасного AGI, мы не согласны со многими заявлениями, которые он сделал с тех пор о нашей работе. Это также включает его характеристики нашей безопасности», — сказала представитель OpenAI Лиз Буржуа.
На сегодняшний день наиболее продвинутый чат-бот с ИИ— это ChatGPT разработки американской OpenAI. Речь идет о языковой модели GPT-4o, которая умеет распознавать уже не только текст, но и голос с видео. Следующий шаг — создание голосового помощника для естественного разговора в реальном времени.
Венцом развития ИИ, как считают визионеры, станет появление так называемого AGI (Artificial General Intelligence), то есть ИИ, который по своим способностям будет соответствовать человеческому разуму. Основатель компании OpenAI Сэм Альтман ранее говорил, что такая технология «заменит среднего человека». Основатель Tesla и SpaceX Илон Маск прогнозировал появление AGI к 2029 году.
В марте прошлого года Маск, сооснователь Pinterest Эван Шарп, сооснователь Apple Стив Возняк и другие визионеры области подписали открытое письмо с призывом приостановить разработку и обучение нейросетей. Авторы обратили внимание на то, что, по результатам крупных исследований, системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества. «Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий», — говорится в обращении.
