Перейти к основному контенту
Финансы ,  
0 

Греф рассказал о вызове разработчиков «Сбера» в прокуратуру из-за ИИ

Герман Греф: «Сбер» ограничил нейросеть Kandinsky из-за недовольства депутатов
Сотрудников Сбербанка вызывали в прокуратуру из-за того, что депутаты были недовольны изображениями от нейросети Kandinsky, рассказал Герман Греф. Алгоритм пришлось редактировать, и модель потеряла в креативности и точности
Сбербанк SBER ₽277,4 +1,28% Купить
Фото: Михаил Гребенщиков / РБК
Фото: Михаил Гребенщиков / РБК

Сотрудников Сбербанка вызывали в прокуратуру из-за неточного изображения российского флага, созданного нейросетью, рассказал глава «Сбера» Герман Греф в ходе форума «Финополис», организованного ЦБ.

«Опыт показал, что мы только опубликовали модели — и нас, и «Яндекс» тут же привели в прокуратуру. У нас модель при генерации российского флага — ну она же генеративная, она пытается его улучшить — она на флаге нарисовала еще купола от Собора Василия Блаженного. Депутаты посчитали, что это издевательство над нашим национальным флагом. Мы тут же остановили определенные вещи — символы государственные она не генерит уже, она генерит картинку, заранее заданную», — сказал Греф.

Минцифры анонсировало битвы роботов с искусственным интеллектом
Технологии и медиа
Фото:Сергей Ведяшкин / АГН «Москва»

При этом теперь модель теряет в креативности генерации, признал Греф: «Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности. Нам придется пройти через этот период. Нужна помощь государства в снисхождении и понимании, что мы как дети пока здесь, — нас сильно не судить. Потому что когда разработчиков и нас пригласили в прокуратуру… Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. Могло бы быть иначе». Разработчикам подобных моделей придется наступить на «все грабли», однако в России в целом «правильная атмосфера для этого», добавил Греф.

Ситуация, о которой сказал Греф, произошла в апреле 2023 года. Тогда лидер фракции «Справедливая Россия — За правду» в Госдуме Сергей Миронов попросил генпрокурора Игоря Краснова дать оценку изображениям, сгенерированным нейросетью Kandinsky 2.1, созданной «Сбером». Как писал ТАСС со ссылкой на копию письма Миронова, при тестировании системы нейросеть, по мнению депутата, генерировала ответы на запросы о России, которые способствуют «формированию ее негативного образа и положительного образа недружественных стран».

«В частности, при запросах со словом «российский», «Россия», «русские» и даже «российский флаг», «флаг Российской Федерации» ни разу не была сгенерирована картинка в цветах флага Российской Федерации, состоящего из трех полос. При этом при запросе «флаг Украины» и «флаг Америки» картинки полностью соответствует цветам и дизайну флагов указанных стран», — подчеркивал Миронов. По его мнению, создатели нейросети использовали разработки недружественных государств, ведущих информационную войну против России.

Александр Ведяхин Как искусственный интеллект меняет бизнес-модели компаний
Мнение
Фото:Shutterstock

В целом от регулирования государства развитие ИИ зависит очень сильно, сказал Греф на «Финополисе». «Поэтому первое и самое главное — постараться эту сферу не зарегулировать, и это самое большое, что государство может сделать. ЦБ опубликовал свои подходы к политике искусственного интеллекта — мне кажется, что там заложена очень разумная концепция, то есть рискориентированный подход и в то же самое время не перерегулирование. Мы видим примеры, когда США и Китай используют искусственный интеллект и при этом создают все условия для его развития, в то же время не перерегулируют. И мы видим европейский подход, где сначала цифровая директива, а затем принципы регулирования искусственного интеллекта фактически убили развитие искусственного интеллекта в Европе. И сегодня все более-менее крупные компании стараются релоцироваться за пределы регулирования Евросоюза. Нам, конечно, очень важно этого не повторить. Но мне кажется, что пока в России и правительство очень хорошо это понимает, и Центральный банк трезво и без всяких страхов подходит к этому».

Банк России опубликовал консультативный доклад об искусственном интеллекте в начале ноября. В нем он подчеркнул, что «на данный момент не видит необходимости в оперативной разработке отдельного регулирования использования технологии ИИ финансовыми организациями».

Готовые квартиры в новых кварталах

В разных районах Москвы и области

Квартиры в столице 

с выгодой до ₽4,5 млн

Выгодные предложения 

для семей с детьми

Видовые квартиры 

в высотных башнях

Варианты с мебелью 

и встроенной техникой

Авторы
Теги
Магазин исследований Аналитика по теме "Банки"
Прямой эфир
Ошибка воспроизведения видео. Пожалуйста, обновите ваш браузер.



 

Лента новостей
Курс евро на 12 декабря
EUR ЦБ: 108,56 (+2,36)
Инвестиции, 11 дек, 17:50
Курс доллара на 12 декабря
USD ЦБ: 103,27 (+3,24)
Инвестиции, 11 дек, 17:50
Писториус заявил, что Германия не должна быть «просто зрителем» в СирииПолитика, 03:46
У побережья Туниса перевернулось судно со 130 людьми на бортуОбщество, 03:40
Кадыров сообщил об атаке дрона на казармы спецполка полицииПолитика, 03:18
Сырский рассказал о жестких боях на покровском направленииПолитика, 03:12
Три европейские страны призвали Берлин отменить плату за транзит газаПолитика, 02:42
Какое будущее у российской ветроэнергетикиРБК и Росатом, 02:25
Axios узнал о планах Кеннеди-младшего доказать связь ЦРУ с убийством дядиПолитика, 02:21
Здоровый сон: как легче засыпать и просыпаться
Интенсив РБК Pro поможет улучшить качество сна и восстановить режим
Подробнее
К югу от Иерусалима обстреляли автобусОбщество, 01:53
Орбан после встречи с Трампом и звонка Путину поехал к ЭрдогануПолитика, 01:28
«Ювентус» обыграл «Манчестер Сити» в главном матче тура Лиги чемпионовСпорт, 01:21
Советник Зеленского ответил на слова Орбана об отказе от перемирияПолитика, 01:19
Шольц заявил об экономической выгоде для Германии от поддержки УкраиныПолитика, 00:59
В 15-й пакет санкций против России предложили внести граждан Китая и КНДРПолитика, 00:56
WSJ показала признаки старения Китая на примере умирающего городаОбщество, 00:33