изображение главного меню

Реальные истории

Лиз

Я Лиз О'Салливан, активистка ИИ и новый генеральный директор Parity доктора Раммана Чоудхури. Я проработал в сфере бизнеса в индустрии искусственного интеллекта на протяжении всей моей карьеры более 10 лет в сфере технологий, включая два года управления сбором данных и операциями в компании компьютерного зрения, имеющей связи с военными. Я уволился из-за спорного проекта Maven после того, как осознал его потенциал для включения в качестве системы наведения в летальные автономные системы оружия. Именно тогда я подключился к Stop Killer Robots и с тех пор не оглядывался!

Альтернативный текст изображения

Таргетированная реклама, одобрение банковских кредитов, упреждающая работа полиции… автономия в оружии, автоматизация все чаще становятся частью нашей жизни. Какие типы цифровой дегуманизации вас больше всего беспокоят и почему?

Одно из главных преимуществ этой недавней «технической атаки» и критики отрасли состоит в том, что она открыла дверь для многих, кто может не осознавать, насколько сильно модели управляют своей жизнью. Даже автоматизация без машинного обучения, такая как кредитный рейтинг, может непреднамеренно дискриминировать людей. Но когда задействуется машинное обучение, этот потенциал становится почти гарантией. В частности, меня беспокоят кредиты, найм и здравоохранение. Но самые насущные проблемы связаны с применением в уголовном судопроизводстве. Любое использование технологии, которая по самой своей природе является «консервативной» в том смысле, что она сохраняет условия прошлого в будущем, вероятно, повторит наше дискриминационное прошлое. Полиция и военные используют этот вид технологий в настоящее время в значительной степени нерегулируемом, оставляя департаменты и полицейские союзы решать, что является правильным для общества, часто без нашего ведома или согласия.

Расскажите нам о случае, когда вы видели или испытали дискриминацию, риск или угнетение в результате использования технологии, программы или алгоритма.

Никогда не забуду, как в стартапе по компьютерному зрению меня попросили создать набор данных для модерации, который стал бы моделью для обнаружения порнографических материалов. Это обычное приложение ИИ для больших платформ, которые хотят автоматизировать некоторую степень пользовательского контента. Мы отправили большой набор данных в Индию для маркировки, и когда он вернулся, все гомосексуальные пары, хотя и полностью одетые, были признаны «откровенными» из-за незаконности образа жизни ЛГБТК + в этом регионе в то время. Если бы мы обучили эту модель и запустили ее в производство, вдруг все безопасные изображения, на которых изображены любящие однополые пары, были бы автоматически отклонены платформой. Это всего лишь один небольшой пример из множества способов, которыми дискриминационная предвзятость может проявляться в наборах данных, и мы видели так много!

Вы верите, что отдельные люди могут изменить ситуацию к лучшему?

Если последние несколько лет нам что-то показали, так это то, что люди МОГУТ иметь значение, и вам не нужно рисковать своей карьерой, чтобы добиться этого.

Что касается меня лично, я выступил со своей историей, потому что понял, что «роботы-убийцы» - это не проблема будущего, научная фантастика, а проблема, которая существует в реальности сегодня.

С тех пор, как я выступил вперед, я встретил так много невероятных организаций и людей, которые посвятили свою жизнь борьбе за сохранение человеческого достоинства на поле боя. Им не нужно, чтобы вы доводили дело до сведения вашей компании или брать на себя какие-либо личные риски, им просто нужно, чтобы вы поддерживали их работу!

Когда вы впервые узнали о роботах-убийцах и что подумали?

Я был фанатиком научной фантастики с тех пор, как мы с матерью в детстве увлекались Star Trek: TNG, поэтому идея о роботах, которые убивают, не была для меня новой. Я давно восхищаюсь принципами Азимова, в основном идеей о том, что роботов нельзя программировать так, чтобы убивать людей. Это всегда казалось такой простой и важной конструктивной деталью, которая может спасти жизни и нашу планету. «Не давайте оружие роботам»… имеет смысл!

Примерно до 2018 года я думал, что проблема настолько далеко, что мы могли бы еще немного подумать и не беспокоиться о возможном апокалипсисе научно-фантастических машин. Я был неправ! Мои исследования за последние два года убедительно показали, что это оружие уже существует, и страны продвигаются вперед в глобальной гонке вооружений до самого дна, создавая автономные системы вооружений без каких-либо международных соглашений по управлению ими. Я искренне надеюсь, что нации смогут работать вместе, чтобы установить строгие ограничения автономии в бою.

2020-е годы пока были немного тяжелыми. Что вселяет надежду?

В частности, движение в поддержку конфиденциальности и против автоматизации за последние несколько лет набрало обороты. Мы даже начинаем видеть надежду в форме судебного разбирательства по антимонопольному законодательству, что очень редко встречается в Соединенных Штатах! Люди, стоящие за этим движением, настолько вдохновляют, что дают мне жизнь. Мне повезло, что я познакомился с членами Stop Killer Robots и людьми, работающими на передовой в Организации Объединенных Наций и за ее пределами. Они молодцы !!!

Почему вы участвуете в движении Stop Killer Robots?

Я часть этого движения, потому что я лично видел все способы, которыми компьютерное зрение может дать сбой. Компьютерное зрение - жизненно важная часть стека технологий роботов-убийц, и наблюдение за тем, как современные модели терпят неудачу безумными, дикими и непредсказуемыми способами, повлияло на мое решение выступить. Проблема не просто в том, что эти модели терпят неудачу, а в том, КАК они терпят неудачу.

Когда вы добавляете непредсказуемые элементы в уравнение модели, они не знают, как с ними обращаться. Модели и роботы не умны, они хрупкие и работают только так, как их научили работать в лабораторных условиях. Но «лабораторные условия» надежно отличаются от сценариев боя, которые невозможно точно предсказать без хрустального шара.

Такие вещи, как разрешение изображения, условия освещения, угол захвата и невидимые враждебные атаки, заставляют меня беспокоиться о будущем, когда диктаторы и авторитарные державы (или даже крупные державы) смогут дешево покупать, создавать и развертывать это оружие, даже если они этого не делают. работать хорошо.

Еще не поздно помешать нашим правительствам воплотить в жизнь эту фантастическую антиутопию!

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам