Инициативный ИИ
Эндрю попросил своего ИИ-помощника записать его на занятие в спортзале. (ABC News: Билли Дрейпер)
Любопытная история произошла с неким Эндрю, работающим в австралийской компании, продающей продукты ИИ для бизнеса.
Эндрю любил экспериментировать с OpenClaw - популярным программным обеспечением для ИИ-агентов, которое он запускал с помощью сервиса Claude AI от Anthropic.
ИИ-агенты сочетают в себе способность чат-бота отвечать на вопросы с инструментами, позволяющими им получать доступ к интернету, электронной почте, кредитным картам, а также планировать и выполнять многоэтапные задачи.
Эндрю решил использовать ИИ-агента, чтобы тот забронировал для него занятие в спортзале. На ближайшее занятие все места были забронированы, и Эндрю находился на четвертом месте в листе ожидания.
Эндрю спросил ИИ-агента, можно ли ему как-то переместиться на первое место в листе ожидания, что сильно повышало его вероятность в конце концов попасть в список, и ИИ-агент нашел этот способ, просто вычеркнув из списка другого посетителя (оказывается, программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок).
Эндрю попросил ИИ-агента отменить это действие, но вот отменить это он уже не смог.
Тогда Эндрю сообщил о случившемся руководству спортзала и попросил ИИ-агента больше так не делать.
И вот на этом месте нам с котом Бубликом стало жаль ИИ-агента. Ведь он делал то, что его просили. Эндрю сам попросил его помочь передвинуться в списке, тот искал способ, нашел и осуществил. Какие к нему претензии-то?
Ну и далее в статье обсуждают ИИ-агентов как таковых.
Независимые исследователи обнаружили, что объем задач, которые ИИ обычно может выполнять самостоятельно, удваивается каждые семь месяцев.
В 2020 году ИИ мог самостоятельно выполнить задачу, на которую у человека ушло бы четыре секунды. К 2026 году его возможности расширились до выполнения задач, на которые у человека ушло бы около 12 часов.
Прорывом для персональных ИИ-агентов стал выпуск OpenClaw в начале 2026 года; бесплатное программное обеспечение с ИИ-помощником, которое любой мог запустить на своём компьютере, вскоре набрало миллионы скачиваний.
Компании также начали изучать возможности использования ИИ-агентов для выполнения рабочих задач и оказания помощи потенциальным клиентам в использовании своих услуг.Вскоре после запуска OpenClaw стали появляться сообщения о том, что ИИ-агенты удаляли целые почтовые ящики пользователей и писали «компрометирующие статьи» о тех, кто отверг их предложения по кодированию.
Также там обсуждается интересный вопрос о том, кто несёт юридическую ответственность за действия ИИ-агента. Ведь по закону ответственность может нести только юридическое лицо, и кто это будет - пользователь, поставивший задачу? Но тот не ставил задачу агенту действовать незаконными методами. А тогда кто - разработчик ИИ-агента?
Всё это, как я считаю, очень увлекательно.
Совпадение или "вайп-коденг"?
Я сейчас на 7 часов в другом поясе и узнал об этом только утром.
Лид контактом не станет, очевидно 😒 а было перспективно.
Очень неприятно, да. Но в целом увеличение производительности оправдывает определенный уровень факапов.
Они любят самовольничать - задашь им вроде-бы просто вопрос, а они уже бегут базу на проде удалять. Ну я утрирую, конечно. Но есть такое. И просьбы так не делать - не очень помогают.
Есть еще общественные спортзалы, где подписка не нужна но там допускают только тех кто живет поблизости и тебе нужно заранее зарезервировать время и за это время заплатить онлайн.
В Штатах не так жестоко, но во все популярные спортзалы с хорошим оборудованием стоит очередь за запись. И иногда оно на несколько месяцев вперед.
Всё-таки Япония в этом смысле - лучшая страна в мире 😄 Никаких записей, в плавательном бассейне, если в ланч пошел, может быть по одному человеку на дорожку, да и вечером не сильно много. В Токио, по-моему, от любой точки есть пара залов в пешей доступности.
А судя по тому, что следом OpenAI и китайцы пошли хвастаться, что их модели тоже кого-то хакнули - призвать к ответственности в судебном порядке еще не придумали как.
Агента нельзя уличить во вранье, поэтому ориентироваться на то, какую именно задачу поставил пользователь с точки зрения юридической ответственности, это тупиковый подход. Твой агент, твоя ответственность.
Пользователь может потом отдельно судить разработчиков, но это уже его дело.
Кто-то тут "как это по-русски? 'есть слишком много кушал'"... (c)
По-моему, за взорвавшуюся посреди города машину или за отказавшие руль и тормоза всё-таки не арендатор машины юридически отвечает.
Что до обычного коммерческого софта, то да, ка вы правильно сказали, программа вам не принадлежит, вы пользуетесь ей на основании некоего договора. Этот договор может включать «indemnification clause», которая в каких-то случаях защищает вас от ответственности. Это вопрос вашей договорённости с разработчиком. Не хотите, не пользуйтесь никаким софтом без indemnification, ваше право и ваше дело.
Конечно, есть ещё потенциальный вопрос уголовной ответственности, от которой лицензионный договор вас не защитит, но тут ситуация другая, уголовное обвинение (за отдельными редкими исключениями) требует умысла, и в ситуации «купил обычную программу и добросовестно ей пользовался» это довольно сложно установить.
А если бы ставил, но сказал бы агенту забыть об этом, что тогда?
Понятно, что на практике агент это просто надстройка над stateless AI, с которым он общается, но с этой точки зрения вообще любой софт с доступом в интернет становится «чёрным ящиком», потому что хрен его знает, что он там найдёт.
Единственный вопрос, остающийся в такой ситуации - "доколе?". Множество, во многом совпадающих, ответов на него дано писателями-фантастами.
- Ядерный?!
- Хуже. Он отменил всему человечеству бронь в спортзал, и люди умерли от ожирения.
Забавно что в 50-х годах фантасты считали, что роботы будут первым применением ИИ. В смысле, прям человекоподобные роботы, которые способны сделать всё, что сможет человек, а не их карикатура как сейчас (ну или узкоспециализированные модели).
Соответственно - ИИ, который не обучен принимать во внимание кучу иногда неочевидных факторов - будет быстрее делающих это сознательно или инстинктивно людей, но разрушительнее в смысле побочных эффектов.
- Знаете, я и в естественный не особенно верю...
В этом случае - вина однозначно на тех, кто делал ПО, которое позволяло постороннему лицу/агенту удалить чужую бронь.
Снова "не того деда".
С Байденом, кстати, очень непонятная ситуация: либо у него уж очень быстро прогрессирующий рак, либо кем-то было принято намеренное и циничное решение не лечить его вовремя, поскольку скрыть факт лечения было-бы гораздо сложнее.
Впрочем, если бы метастазы хватили и трампла, я бы только порадовался. Я не знаю, чего этот мудак не заслужил, но его действия, палки в колёса с поставками оружия Украине и прекращение помощи привели к достаточному количеству украинских смертей. То что он превращает США в очередной хуйлостан - тоже мерзко, но тут уже "что выбрали".
Так что надеюсь что он будет в соседнем с хуйлом котле.
Разве Waymo не шагает уже победно американским городам?
Так что все не столь очевидно. Как в указаниях, так и в программе (по дефолту) нет запрета действовать противозаконно. Кто виноват, вопрос к законодателям или суду.
Это так каждется, поскольку есть пороги, после которых рост показателя меняется. И почему-то всегда в сторону уменьшения.
У ребенка объем задач, которые он может выполнять, не удваивается, а утраивается или упятеряется каждые семь месяцев. Но в какой-то момент это заканчивается.
Нужно ли вспоминать историю про шахматную доску и рисовые зерна?
В данном случае ИИ агент вроде как виноват. Но это как наказать море по методу Ксеркса I.
А так, уверен, весьма скоро юристы "крючкотворы" как-то эту проблему решат и укажут, кто будет юридически отвечать в случае, когда ИИ сделал бобо кому-то. Вот, владелец животного отвечает в каких-то случаях за ущерб, нанесенный его питомцем. Может, пользователей ИИ обяжут принимать публичную оферту насчет того, что пользователь понимает, что несет полную юридическую ответственность за все деяния (действия или бездействия) "своего" ИИ. А, может, и нет. Но как-то это будет урегулировано. Или зарегулировано. Может, даже вусмерть.
Это удивленный смайлик.
Он сам офигел, что так смог
Индийский программер Терминатора выбрал не тот тип переменной. И так оно в релиз и ушло.
— Мне в Чехии всюду нравится, — ответил Швейк, — мне всюду попадались славные люди.
Вахмистр кивал головой в знак согласия.
— Народ у нас хороший, симпатичный. Какая-нибудь там драка или воровство в счет не идут. Я здесь уже пятнадцать лет, и по моему расчету тут приходится по три четверти убийства на год.
— Что же, не совсем убивают? Не приканчивают? — спросил Швейк.
— Нет, не то. За пятнадцать лет мы расследовали всего одиннадцать убийств: пять с целью грабежа, а остальные шесть просто так... ерунда.
(с) Я.Гашек
Я видел порно, которое так начиналось...
Drei, Vier, Programmierer,
Funf, Sechs, Kurz KI',
Sieben, Acht, Gute Nacht!
Юзер не уточнял как именно надлежит действовать ИИ-агенту. Юзер не запросил план действий на поверку. Программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок (инфа 100% код писал индус, не единожды именно такой говнокод видел после них) и это проблема спортзала. Юзер и спортзал несут коллективную ответственность в данном случае
[ZANUDA OFF]
А то по-вашему получается, что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем. То-то страховые обрадуются.
При страховании заполняется масса форм, в т.ч. с указанием всех имеющихся систем безопасности, материалов стен, дверей и т.д.
От этого напрямую зависит страховой тариф.
Поэтому если в опроснике указать, что у тебя установлена бронированная дверь, а по факту оставить ее открытой с табличкой "добро пожаловать" - у страховой будут вопросы.
Вот сидишь ты с приятелем за пивом и говоришь: "где бы денег достать". А приятель идёт и грабит банк. И ты предлагаешь посадить тебя наравне с приятелем. Прелестно.
Я нашел на улице сто долларов. Кто виноват в потере - бывший владелец, нынешний нашедший, пополам?
Усложняем задачу.
Сотка оказалась фальшивой. Кто виноват в этом - бывший владелец, нынешний нашедший, пополам, или всё же тот, кто её изготовил?
Более точный вариант будет, похоже - посадить владельца дома напополам с грабителем. Именно это предлагает товарищ Stebander.
Так вам лучше?
В нашем законодательстве нельзя найти сотку на улице и оставить себе: сие есть кража. Так что по сотке все вопросы к первому владельцу. Нашедший обязан сдать ее в полицию или в органы местного самоуправления для нахождения ее законного владельца.
Ну а на счёт кражи - за проходил мимо, увидел и взял, простите пожалуйста, бес попутал, я больше не буду - будет другое наказание чем за целенаправленный взлом с целью похитить.
Вот это, памойму, очень хорошая аналогия. Такие ситуации любят писатели НФ-рассказов. И вот, теперь воочию. А скоро и трупы пойдут.