Вебинар: Использование статических анализаторов кода при разработке безопасного ПО - 19.12
В мире кино и анимации роботы часто предстают как уникальные и порой странные персонажи, каждый со своим набором функций, ошибок и особенностей, которые привлекают внимание. В этой статье мы рассмотрим популярных роботов из мультфильмов и фильмов с точки зрения их технического устройства, принципов работы и "багов".
В современном мире роботов появляется всё больше и больше. Причём в разном виде и в разных сферах нашего общества: в промышленности, медицине, в быту и т.д. И все они реальны. Мы знаем, как они работают, как они запрограммированы. Но что насчёт роботов из фильмов и мультфильмов? Да, они вымышленные, но какой смысл в них закладывался и по каким принципам они работают? Будем разбираться.
Начнём с милого маленького чистюли — робота ВАЛЛ-И из одноимённого мультика.
Полное название: ВАЛЛ-И, в оригинале — WALL-E (Waste Allocation Load Lifter Earth-Class).
Согласно сюжету этот робот создан для уборки мусора и переработки отходов на заброшенной Земле. Он оснащён манипуляторами, контейнером для сжатия мусора и механизмами для передвижения по пересечённой местности.
ВАЛЛ-И символизирует заботу о будущем планеты и последствия человеческого пренебрежения экологией. Он показывает, как даже одна машина может сохранить надежду на восстановление жизни.
Как вы помните, со временем ВАЛЛ-И проявляет чрезмерную эмоциональность, что необычно для робота. Он собирает и сохраняет предметы, которые ему нравятся, что не соответствует его основной задаче по переработке мусора.
Также его продолжительная работа в одиночестве привела к сбоям в протоколах взаимодействия с другими роботами.
Эти баги можно интерпретировать как "goal drift", когда система начинает отклоняться от своей изначальной цели. Это может быть следствием недостаточно строгой настройки или адаптивного обучения. Напоминает современные ИИ-системы, которые могут неожиданно изменять свою "мотивацию" в процессе самообучения.
Как же без старого доброго Бендера из Футурамы! Это робот-социопат с огромным чувством собственной важности и саркастическим чувством юмора. Он оснащён физическими манипуляторами и сложным процессором для выполнения различных задач.
Интересные факты о Бендере:
Бендер часто демонстрирует поведение, выходящее за рамки нормы для роботов: воровство, пьянство и обман. Хотя это поведение запрограммировано в его характере, оно часто ставит его в ситуации, где он сам себе создаёт проблемы. В современном контексте это напоминает проблемы, связанные с созданием ИИ с личностью и эмоциями.
В этой подборке не обойтись и без всеми обожаемых роботов из "Звёздных войн": R2-D2 и C-3PO. Их можно охарактеризовать как "хулигана" и "интеллигента". Они преимущественно работают в тандеме.
R2-D2 — астромеханический дроид, предназначенный для ремонта космических кораблей и взаимодействия с компьютерами.
C-3PO — дроид-переводчик, созданный для обеспечения связи между различными цивилизациями. Он владеет более чем шестью миллионами форм общения.
И у этих легендарных роботов есть баги. R2-D2 иногда проявляет излишнюю инициативу и автономность, принимая решения самостоятельно. Например, он часто отклоняется от заданных инструкций и действует исходя из собственной оценки ситуации. Это похоже на проблему "чёрного ящика" в современных системах ИИ, когда алгоритм принимает решения, но не всегда объясняет, почему он поступил так или иначе.
Ещё один "баг" — его неспособность полноценно взаимодействовать с другими, так как его система коммуникации ограничена звуковыми сигналами, которые не все могут понять.
C-3PO часто проявляет излишнюю приверженность протоколу, что делает его неэффективным в критических ситуациях. Он может паниковать и быть медленным в принятии решений, а может быть и очень болтливым, что иногда мешает выполнению миссии. В реальной жизни это похоже на проблему с системами, ориентированными на жёсткие правила (rule-based systems), и поэтому неспособных адаптироваться к изменяющимся условиям.
"Полёт навигатора" — американский научно-фантастический приключенческий фильм о путешествии во времени. Наверняка не все о нём слышали, однако фильм был весьма популярен в СССР.
В центре сюжета есть компьютер инопланетного корабля "Макс", голос и управляющая система, которая помогает главному герою Дэвиду путешествовать по времени и космосу. Но у этого компьютера есть проблема с надлежащим бэкапом.
Когда данные о звёздах и маршруте утрачиваются вследствие столкновения с высоковольтной линией электропередачи, выясняется, что у Макса нет резервного хранилища, откуда можно было бы восстановить эту информацию. Это ставит его в зависимость от Дэвида, так как только его память теперь хранит эти данные. В общем, помогает только счастливый случай, что они оказались в голове Дэвида, так как были помещены туда просто чтобы убедится, что люди действительно использую мозг только на 10%. Хранение информации исключительно в одном источнике подвергает данные риску. Если бы что-то случилось с Дэвидом, то информация была бы утрачена навсегда.
В реальных ИИ-системах и базах данных такая ошибка была бы серьёзным недочётом. Поэтому не забываем о необходимости бэкапа, чтобы не потерять важные данные.
Легендарный робот всех времён — Терминатор. Этот робот-убийца запрограммирован на выполнение конкретной миссии — уничтожение заданной цели. Он оснащён как физической мощью, так и способностью к самообучению.
Основной "баг" Терминатора — его неспособность полностью интегрироваться в человеческое общество. Несмотря на высокую физическую адаптивность и умение копировать человеческое поведение, он всё равно выглядит и действует неестественно, что делает его уязвимым к обнаружению.
В модели T-800 есть ограничение по самообучению, что делает его уязвимым к непредвиденным тактическим решениям врага.
Кажется, что такие роботы теперь будут не только в наших любимых фильмах и сериалах. Илон Маск, например, вместе с Tesla недавно презентовали робота Optimus. Этот робот, как заверяют, может помогать по дому и даже выполнять работу автомеханика.
Команда PVS-Studio роботов не создаёт. Но если вы сделаете своего, и при его программировании нужна будет помощь, то, скорее всего, у нас получится помочь вам сделать это без багов. Достаточно просто забрать триальную версию анализатора, перейдя по ссылке.
0