В то время как Homelander и The Seven занимают центральное место в Мальчики В качестве главных злодеев настоящим злом, движущим сериалом, является Vought International — мощная корпорация, которая поглотила концепцию супергероя, превратив ее в инструмент для удовлетворения своей ненасытной жажды власти, влияния и богатства. На протяжении многих лет доминирование Воута в индустрии супергероев не только приносило огромные прибыли, но и способствовало возникновению бредового чувства собственного всемогущества.
Во многих отношениях Крупные технологические компании, разрабатывающие технологии искусственного интеллекта, отражают Vought в реальной жизни.. Хотя они еще не обязательно являются злом, они освоили концепцию искусственного интеллекта – сейчас его обычно называют ИИ – и использовали его для накопления власти, влияния и богатства. Поскольку они являются единственными организациями, обладающими ресурсами для разработки и управления этой технологией, их доминирование в этом секторе принесло огромные прибыли и безошибочную атмосферу всемогущества.
Сегодняшние крупные технологические компании столкнулись с новой проблемой
Мальчики доказывают, что высокотехнологичные решения распространенных проблем не являются надежными
Если крупные технологические компании и технологии искусственного интеллекта когда-нибудь станут «Воутами» реального мира, Мальчики предлагает важный урок для них и аудитории: Будьте осторожны и не слепо верьте одному «великому решению». Это было проиллюстрировано подходом Воута к проблеме Homelander. Воут создал Homelander, чтобы укрепить доминирование компании на вершине властной иерархии. Они сделали это, несмотря на неизбежный риск того, что такое могущественное существо однажды может восстать против них. Воут продолжил свое развитие, будучи уверенным, что они смогут обеспечить его лояльность или сохранить контроль над ним.
Если напрямую управлять Хоумлендером было невозможно, Воут считал, что у него есть окончательное решение: Черный Нуар, его клон. Однако высокомерие и мотивы получения прибыли, которые питали создание Homelander, также повлияли на развитие Black Noir. Точно так же, как Воут не смог полностью понять последствия создания богоподобного существа в Homelander, они также проигнорировали глубокие последствия создания убийцы божественного уровня, которому поручено присматривать за Homelander, если он «вырвется на свободу» из-под их контроля.
Чтобы облегчить это «окончательное решение», Черный Нуар был назначен ключевым членом Семерки, часто оказывающим решающую поддержку во время их миссий. Однако его основная роль в команде заключалась в молчаливом, но постоянном наблюдении за Хоумлендером. Прежде всего, главной директивой Черного Нуара было уничтожить Хоумлендера, если он «пойдет изгоем». Хотя план, возможно, казался твердым на бумаге, в конечном итоге он выявил характерный недостаток Воута: игнорирование, недооценка и неспособность предвидеть непредвиденные последствия его творений. В данном случае они проигнорировали последствия предоставления Black Noir такого жесткого и узко определенного мандата.
«Черный нуар» для мальчиков был решением без каких-либо ограждений, которое стало больше, чем проблема.
Проблема с Черным Нуаром заключалась в том, что, несмотря на настойчивые сигналы Воута о том, что он должен быть готов убить Хоумлендера в любой момент, годы службы на стороне Хоумлендера прошли, а Воут не дал зеленый свет своему приказу об убийстве – хотя все знали или вероятно, был свидетелем многочисленных случаев, когда Homelander становился мошенником. Хотя типичный «убийца» мог бы воспринять колебания Воута как нечто выходящее за пределы его зарплаты, строгие и конкретные приказы Черного Нуара не позволили ему сделать шаг назад и понять, почему приказ об убийстве так и не был отдан.
Следовательно, Черный Нуар взял дело в свои руки, организовав серию злодеяний под видом Хоумлендера. Он считал, что тем самым он продемонстрирует неповиновение Хоумлендера и заставит Воута отдать приказ об убийстве, что позволит ему достичь своей главной цели. Вместо того, чтобы ждать приказов, Черный Нуар создал обстоятельства, оправдывающие свои действия. Его исключительная сосредоточенность на этой цели была настолько сильной, что он считал приемлемыми даже такие отвратительные действия, как причинение вреда детям.
Аналогичная ситуация может возникнуть и при развертывании ИИ. Этот сценарий, известный как «Проблема со скрепками», предполагает программу искусственного интеллекта, которой поручена, казалось бы, простая директива: «максимально увеличить производство скрепок». Без дальнейшего контекста, нюансов или ограничений ИИ неустанно преследует эту цель, систематически потребляя все доступные ресурсы, в том числе те, которые имеют решающее значение для выживания и благополучия человека, для производства большего количества скрепок.
Подобно жесткой программе Black Noir по уничтожению Homelander, этому ИИ не хватает гибкости, чтобы адаптировать или переоценить свою миссию в свете меняющихся обстоятельств или более широких социальных соображений. Другими словами, вы не можете или не желаете учитывать сложные и развивающиеся факторы. Таким образом, как и Черный Нуар, он готов предпринять любые действия, независимо от причиненного ущерба, для достижения заранее определенной цели.
Соответственно, «Черный нуар» должен послужить предостережением об опасностях слепой веры в ИИ.. Это не значит, что ИИ не имеет преимуществ. Фактически, Черный Нуар был, возможно, самым эффективным творением Воута – он был единственным человеком, способным нейтрализовать Хоумлендера. Однако неспособность Vought реализовать необходимые гарантии – такие как согласование ценностей, строгие ограничения для предотвращения вреда невинным третьим лицам и четкие последствия неприемлемого поведения – оказалась катастрофической.
Например, не существовало защитных барьеров, гарантирующих, что причинение вреда другим ради достижения своих целей приведет к демонтажу. Пожалуй, самое важное то, что компания Vought пренебрегла созданием механизмов человеческого надзора для мониторинга и регулирования своих действий, гарантируя, что компания не прибегнет к крайним мерам. Эти же фундаментальные гарантии должны определять разработку и применение технологий искусственного интеллекта. Без них, как продемонстрировал Черный Нуар в Мальчикиситуация может выйти из-под контроля.