Будущее, когда человек может контролировать свою информацию
Будущее — это не только то, что мы можем создать или построить.
Речь идет о том, что готовы мы его эффективно контролировать?
Это произошло в Китае.
Робот безвольно висел на кране.
И вдруг он ожил.
Разбил монитор и напал на человека.
12M человек посмотрели отснятый материал.
Они назвали это первым восстанием роботов.
Тем не менее, эта же модель продавалась широкой публике.
Кадры леденящие душу:
На фабрике в Китае человекоподобный робот неподвижно висит на кране, а рядом разговаривают двое рабочих.
И вдруг он оживает.
Его конечности яростно хлещут. Монитор компьютера летит в сторону.
А мужчины, которые стояли рядом с роботом?
Они бегут, спасая свои жизни.
Робот оказался Unitree H1 — гуманоидом ростом 6 футов ( 183 см) с мощными двигателями и искусственным интеллектом.
Он весит 104 фунта ( 41 кг) и обладает огромной человеческой силой.
И это был не прототип, он уже появился на массовом рынке.
И что еще более тревожно.
Его продавали рядовым потребителям… за 90 000 долларов.
Но эта машина была достаточно мощна, чтобы серьезно ранить или убить человека, если что-то пошло не так.
Это огромный риск для безопасности.
Что делает его таким опасным?
В состав Unitree H1 входят:
Рама из металла или углеродного волокна
Электродвигатели, приводящие в действие каждый сустав
Камеры и датчики для зрения
Программное обеспечение на основе искусственного интеллекта, которое контролирует движения, ходьбу и равновесие.
Но в тот момент, когда программное обеспечение дает сбой или происходит нарушение функционирования робота, это все равно, что наделить ребенка сверхчеловеческой силой.
Тот кран, на котором он висел? Это обычная схема во время испытаний роботов.
Разработчики используют подвесные установки, чтобы роботы «научились» ходить, не падая.
Но на этот раз... это было не просто обучение.
Все превратилось в хаос — руки размахивали, снаряжение волочилось, предметы разбивались.
А что, если бы его не ограничили в движении канатиками?
И это был не единичный случай.
В феврале 2025 года еще один гуманоид Unitree, одетый в яркий наряд, выступал на публичном фестивале в Тяньцзине.
В середине выступления он бросился на толпу.
Зрители закричали. Охрана бросилась в атаку.
К счастью, никто не пострадал.
Но это уже второй случай — и не только в Китае.
На заводе Tesla Gigafactory в Остине робот напал на инженера-человека.
Он не просто не правильно сработал . Он прижал мужчину к земле и впился ему в спину и руку, оставив его истекать кровью на полу.
Робот продолжал двигаться. Продолжал нажимать.
Мужчина оставил за собой кровавый след до прибытия помощи.
Это было ужасно. И это было реально.
Так что же не так?
Вероятно:
– Ошибки программного обеспечения
– Ошибки датчиков
– Неправильно истолкованные команды
– Плохая логика безопасности.
- Или самое страшное это внешнее воздействие хакеров на робота, с помощью которого они завладели его управлением. Нельзя исключать действия конкурентов Tesla.
Но вот более глубокая правда:
Цивилизация наделила мощные мобильные машины способностью принимать реальные решения, не убедившись, что они полностью понимают, что делают.
В случае с чат-ботами на основе искусственного интеллекта любая ошибка раздражает.
С человекоподобными роботами? Это потенциально смертельно опасно. Не менее опасны дроны, которые автономно управляются искусственным интеллектом, а также соответствующие IOT, которых в ближайшем будущем будет около 50 миллиардов!
Когда ИИ управляет машиной с подвижными суставами, сильными конечностями и отсутствием эмоциональной восприимчивости, безобидных ошибок не бывает.
Вы получаете несчастные случаи, травмы и панику.
Что самое страшное?
Подобные технологии уже есть в домах людей.
Любой желающий может купить одного из этих роботов, достать его из коробки и позволить ему бродить по округе. Или запустить дрон с автономным управлением ИИ.
Нет регулирующего надзора. Нет обязательных проверок безопасности.
Ничто не мешает этому роботу или дрону превратить сбой в трагедию.
Итак, как нам это остановить?
Вот что уже должно быть сделано:
Физические ограничения во время всех испытаний.
Аварийные выключатели.
Ограничения движения в программном обеспечении.
Мониторинг системы в реальном времени.
Соответствие мировым стандартам безопасности (например, ISO 10218 и TEMPEST).
В настоящее время некоторые компании обходят эти вопросы стороной или экономят на информационной безопасности, как это происходит с электронной почтой, мессенджерами, социальными сетями.
Это неприемлемо.
В чем суть?
Мы больше не просто пишем код.
Мы создаем движущиеся машины с автономным управлением с помощью ИИ — машины, которые делят физическое пространство с людьми.
И это меняет все.
Потому что когда эти системы выходят из строя, это уже не «технический сбой».
Это кризис безопасности человека.
Так что нет, это было не восстание роботов, а предупреждение.
Роботы уже существуют.
Они сильны, независимы и подвержены ошибкам.
Мы совершенно не готовы к тому, что произойдет, если что-то пойдет не так.
Будущее — это не только то, что мы можем построить.
Речь идет о том, что мы готовы контролировать.
роботы #искусственныйинтеллект #психология
