Как мы создали виртуального человека

(и заставил ИИ взять интервью об ИИ, автономии и цифровой дегуманизации)

Статья Стю Мейсона – креативного директора Masonry Cartel компании Stop Killer Robots

«У НАС ДОЛЖЕН БЫТЬ МЕСЯЦ, ГДЕ ВСЕ СДЕЛАНО И ПРЕДСТАВЛЕНО ИИ?!?» — взволнованно провозгласил я. «Покажите, насколько бесчеловечными могут быть некоторые из этих технологий, из первых рук!»

И наступила тишина…

Это была ранняя встреча по поводу кампании SKR по цифровой дегуманизации, и я снова был взволнован одной из тех идей, которые только что появились у меня во рту, казалось бы, из ниоткуда.

Справедливости ради, это звучало смешно. Иметь доступ к ИИ, а затем создавать привлекательный, точный и, что важно, основанный на фактах контент — это было то мышление, на которое ушли десятилетия.

Но… 

и это было лишь маленькое, но на том этапе… что-то в этом было. И оно поселилось где-то в тайниках моего мозга.

Шло время, и чем больше контента мы начали планировать, тем больше я видел и узнавал об OpenAI. Мир искусства был возмущен «Искусство», созданное искусственным интеллектом и мои творческие друзья все чаще беспокоятся о своем будущем. Не было вопроса, заданного в Интернете, на который не ответил бы кто-то, кто скопировал и вставил ответ из Chat GPT.

Итак, наряду со всеми нашими исследованиями и планированием цифровой дегуманизации, я начал возиться…

Мне было любопытно, какой контент представляет Chat GPT, откуда он берется и как он модифицируется/переводится через OpenAI.

Дело в том, что информация о кампании «Остановить роботов-убийц» состоит в том, что она ОЧЕНЬ специфично. Язык и для использования особым образом, информация представлена ​​таким образом, чтобы она учитывала нюансы и специфику предмета. Может показаться, что между «автономным оружием» и 'в полной мере автономное оружие», например, но добавление «полностью» потенциально является открытым приглашением для законодателей отказаться от любого количества зверств во имя прогресса и защиты. Это также вызывает бесконечные споры в разделе комментариев YouTube! Язык это конкретное значение. Много.

Я работаю с кампанией с начала 2021 года и написал свою долю контента на эту тему — через некоторое время вы начинаете замечать закономерности. Синтаксис, структура и темп — все это дает ключ к разгадке не только того, кто написал контент, но и когда.

И именно эта специфика привела меня к осознанию того, что контент, доставляемый Chat GPT, не создается искусственным интеллектом. это ИИ модифицировало.

И это БОЛЬШАЯ разница.

Это не ИИ, представляющий свои мысли, идеи и концепции. Это ИИ представляет наши человеческие идеи, мысли и концепции возвращаются к нам (хотя и с достаточными изменениями, чтобы избежать прямых судебных разбирательств или исков о нарушении авторских прав). Это не настоящий ИИ, умный и знающий, это маркетинг. Машинное обучение заклеймили как ИИ.

И я заметил, что если задать в чате GPT вопросы об автономном оружии и кампании «Остановить роботов-убийц», то это приведет к тому, что наш собственный контент будет воспроизведен обратно к нам — с достаточной настройкой, чтобы он не был прямым воспроизведением, но достаточно близко, чтобы те, кто создает этот контент распознает его. Для нас в этом нет ничего плохого — чем больше наш контент выходит в мир и чем больше людей знают об этих проблемах, тем лучше. (Хотя стоит отметить, что если бы мы были писателями и поддерживали жизнь своим ремеслом, это было бы совсем другое дело — и довольно ужасающая перспектива).

Если тогда контент, сгенерированный ИИ, основан на нашем, мы знаем, что это разумно точный. Причина, по которой важна точность контента, заключается в том, что, будучи ведущим авторитетом в области автономного оружия, все, чем мы делимся, должно быть точным. Он должен выдерживать расследование и быть максимально доступным.

Однако в данном случае это означало, что кажущаяся глупой идея о том, что ИИ будет генерировать контент на основе ИИ, на самом деле может быть возможна. Под наблюдением. Уже было слишком много случаев автоматизации и неправильного использования Chat GPT, чтобы позволить им работать в одиночку с нашим контентом.

Наряду с этим, наше исследование цифровой дегуманизации заставило меня изучить способы, которыми люди могут быть затронуты искусственным интеллектом и автономией, особенно когда технологии устраняют или заменяют человеческое участие или ответственность за счет использования автономии. Мы не пугаем – это действительно происходит.

Вскоре я открыл для себя Synthesia — платформу для создания видео с искусственным интеллектом. Тысячи компаний используют его для автоматического создания обучающих видеороликов на 120 языках, что экономит до 80% их времени и бюджета, по данным отдела маркетинга Synthesia. Эти сбережения приходят за счет устранения потребности в людях. На их домашней странице даже есть полезная диаграмма, иллюстрирующая негативы, связанные с созданием видео «традиционным способом», дополненная множеством красных крестиков, чтобы продемонстрировать негативы участия человека. Цифровая дегуманизация, вызванная спросом на увеличение прибыли.

Затем меня осенила мысль — что, если бы я мог использовать доступные технологии, такие как Chat GPT, для создания вопросов, чтобы задать ИИ автономию и цифровую дегуманизацию. Затем заставьте его самому ответить на эти вопросы. Затем я мог бы передать полученный текстовый вывод на панель управления Synthesia и перепрофилировать его функцию преобразования текста в видео, чтобы цифровой аналог человека, по-видимому, реагировал на камеру — чтобы напрямую показать бесчеловечный эффект этих технологий — чтобы взять интервью у ИИ, на ИИ, используя ИИ.

В принципе это было несложно; задавайте вопросы, копируйте и вставляйте ответы в Synthesia, генерируйте контент… но на самом деле все не так просто. Это не настоящий ИИ. Это расширение технологии, которую мы видели до нее. Это очень впечатляет и действительно производит впечатление. Это даже, на первый взгляд, очень тревожно, когда вы обнаруживаете, что смотрите вниз на то, что кажется вашим собственным устареванием. Но это ошибочно. Это не так просто, как утверждает маркетинг, и поэтому, чтобы создать реалистичный, правдоподобный человеческий аналог, мне пришлось потратить дни на редактирование стенограммы Chat GPT, чтобы обмануть движок Synthesia, чтобы он мог правильно произносить используемый язык. Цифровая дегуманизация, например, теперь и навсегда будет произноситься в моей голове как «dee-hew-man_ice-ation». Я не могу сказать вам, сколько вариантов этого мне пришлось попробовать, чтобы сделать это точным, и даже тогда, в окончательном выводе, все еще есть некоторые раздачи в отношении этих усилий. 

Что касается присвоения имени нашему цифровому аватару/виртуальному человеку/искусственному актеру, Chat GPT пришлось подвергнуть ряду вопросов, прежде чем мы получили полезный ответ. С недавним обновлением это позволит вам назначать имя «для разговорных целей», но в то время мне пришлось заставить его сделать и имя, и фамилию из смеси изобретателей Open AI (интересно, что после обновления чат CPT теперь очень непреклонна в том, что Илон Маск не играет никакой роли в Open AI — она говорит вам об этом — даже если вы не спрашивали. Интересно!). Имя Джайлза Замбоски не предлагалось с момента обновления, даже когда я несколько раз спрашивал об одном и том же запросе.

То, как появляется Джайлз, также очень преднамеренно. Мы хотели избежать намеков на расу или пол вне моего собственного (в последнее время в средствах массовой информации было много о «виртуальном блэкфейсе», который я бы настоятельно рекомендовал вам прочитать), но в то же время напоминать молодого новатора. 'технический братан'. Тем не менее, многие «виртуальные актеры», доступные на Sythesia, в сочетании с предлагаемыми голосами на самом деле явно созданы компьютером. Чтобы проиллюстрировать нашу точку зрения и сделать Джайлза максимально похожим на человека, наши возможности были ограничены. 

Вскоре мы начнем видеть инструменты, которые позволят вам вводить подсказки к контенту, а на выходе будет полноценный видеоконтент на очень реалистичном уровне — видеоконтент YouTube по запросу. Создано специально для вас и основано на контенте, которым мы кормим Интернет за два десятилетия. Наш контент. Содержание человека. Не ИИ. Но прямо сейчас вы должны работать над этим и манипулировать системой, чтобы получить нужный вам результат. Это все ОЧЕНЬ продвинуто и доступно, но бессмертными словами Public Enemy; «Не верьте рекламе». 

Эти технологии способны действительно улучшить жизнь человечества, и инновации, которые появятся в результате, несомненно, будут невероятными, но когда их использование обусловлено финансами, торговлей, промышленностью и военными, это ВСЕГДА будет второстепенным соображением.

И что бы это ни стоило, это действительно фундаментальный момент в моих собственных опасениях по поводу автономного оружия — повышайте ставки, и вы увеличиваете потенциальные проблемы — если передовые технологии ВСЕ ЕЩЕ настолько подвержены ошибкам, что нам нужно изменить наше поведение, чтобы быть в состоянии с ним эффективно работать, то как и главное, почему мы наблюдаем такую ​​возрастающую тенденцию к его вооружению?!? На пути к тому, чтобы позволить технологиям принимать решения о том, кому жить, а кому умереть. На мой взгляд, это маркетинг, вышедший из-под контроля, в (военных) промышленных масштабах, и, честно говоря, никому в маркетинге никогда не должно быть позволено иметь такую ​​​​власть. ВСЕГДА.