Инициативный ИИ
10.08.2026 14:00
914
Комментарии (62)
Эндрю попросил своего ИИ-помощника записать его на занятие в спортзале. (ABC News: Билли Дрейпер)
Любопытная история произошла с неким Эндрю, работающим в австралийской компании, продающей продукты ИИ для бизнеса.
Эндрю любил экспериментировать с OpenClaw - популярным программным обеспечением для ИИ-агентов, которое он запускал с помощью сервиса Claude AI от Anthropic.
ИИ-агенты сочетают в себе способность чат-бота отвечать на вопросы с инструментами, позволяющими им получать доступ к интернету, электронной почте, кредитным картам, а также планировать и выполнять многоэтапные задачи.
Эндрю решил использовать ИИ-агента, чтобы тот забронировал для него занятие в спортзале. На ближайшее занятие все места были забронированы, и Эндрю находился на четвертом месте в листе ожидания.
Эндрю спросил ИИ-агента, можно ли ему как-то переместиться на первое место в листе ожидания, что сильно повышало его вероятность в конце концов попасть в список, и ИИ-агент нашел этот способ, просто вычеркнув из списка другого посетителя (оказывается, программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок).
Эндрю попросил ИИ-агента отменить это действие, но вот отменить это он уже не смог.
Тогда Эндрю сообщил о случившемся руководству спортзала и попросил ИИ-агента больше так не делать.
И вот на этом месте нам с котом Бубликом стало жаль ИИ-агента. Ведь он делал то, что его просили. Эндрю сам попросил его помочь передвинуться в списке, тот искал способ, нашел и осуществил. Какие к нему претензии-то?
Ну и далее в статье обсуждают ИИ-агентов как таковых.
Независимые исследователи обнаружили, что объем задач, которые ИИ обычно может выполнять самостоятельно, удваивается каждые семь месяцев.
В 2020 году ИИ мог самостоятельно выполнить задачу, на которую у человека ушло бы четыре секунды. К 2026 году его возможности расширились до выполнения задач, на которые у человека ушло бы около 12 часов.
Прорывом для персональных ИИ-агентов стал выпуск OpenClaw в начале 2026 года; бесплатное программное обеспечение с ИИ-помощником, которое любой мог запустить на своём компьютере, вскоре набрало миллионы скачиваний.
Компании также начали изучать возможности использования ИИ-агентов для выполнения рабочих задач и оказания помощи потенциальным клиентам в использовании своих услуг.Вскоре после запуска OpenClaw стали появляться сообщения о том, что ИИ-агенты удаляли целые почтовые ящики пользователей и писали «компрометирующие статьи» о тех, кто отверг их предложения по кодированию.
Также там обсуждается интересный вопрос о том, кто несёт юридическую ответственность за действия ИИ-агента. Ведь по закону ответственность может нести только юридическое лицо, и кто это будет - пользователь, поставивший задачу? Но тот не ставил задачу агенту действовать незаконными методами. А тогда кто - разработчик ИИ-агента?
Всё это, как я считаю, очень увлекательно.
Войдите, чтобы оставить комментарий.
Инициативный ИИ
ИИ-агент нашел этот способ, просто вычеркнув из списка другого посетителя
попросил ИИ-агента больше так не делать
Они любят самовольничать - задашь им вроде-бы просто вопрос, а они уже бегут базу на проде удалять. Ну я утрирую, конечно. Но есть такое. И просьбы так не делать - не очень помогают.
Бронь в спортзал🤔 Как интересно- это какой-то супер vip-спортзал или это единственный спортзал на весь город и потому туда очереди?
Это же Австралия. Может там до другого спортзала тысячи км пустыни?
В Сингапуре в любом коммерческом спортзале нужно сделать подписку. В 2016 оно стоило $180 в месяц, и после оформления подписки этого нужно указать в каких днях и в течение какого времени ты там будешь.
Есть еще общественные спортзалы, где подписка не нужна но там допускают только тех кто живет поблизости и тебе нужно заранее зарезервировать время и за это время заплатить онлайн.
В Штатах не так жестоко, но во все популярные спортзалы с хорошим оборудованием стоит очередь за запись. И иногда оно на несколько месяцев вперед.
Есть еще общественные спортзалы, где подписка не нужна но там допускают только тех кто живет поблизости и тебе нужно заранее зарезервировать время и за это время заплатить онлайн.
В Штатах не так жестоко, но во все популярные спортзалы с хорошим оборудованием стоит очередь за запись. И иногда оно на несколько месяцев вперед.
Так, кто ответственен за то что GPT хакнул Hugging Face?
Тот кто дал задачу хакнуть. И опосредованно на людях, которые не запретили ИИ такие активности. А если ИИ уже вышел из-под контроля (не прям как в фильмах), а в смысле, что они уже не могут контролировать какие задачи он может выполнять, а какие нет - то скорее всего иски к ИИ компаниям скоро будут.
скорее всего иски к ИИ компаниям скоро будут.
Но тот не ставил задачу агенту действовать незаконными методами.
Агента нельзя уличить во вранье, поэтому ориентироваться на то, какую именно задачу поставил пользователь с точки зрения юридической ответственности, это тупиковый подход. Твой агент, твоя ответственность.
Пользователь может потом отдельно судить разработчиков, но это уже его дело.
Именно. ИИ - это инструмент, такой же как и компьютер или мобильник. Во всяком случае, пока у ИИ нет сознания.
Твой агент, твоя ответственность. Пользователь может потом отдельно судить разработчиков, но это уже его дело.
Кто-то тут "как это по-русски? 'есть слишком много кушал'"... (c)
По-моему, за взорвавшуюся посреди города машину или за отказавшие руль и тормоза всё-таки не арендатор машины юридически отвечает.
- 29 августа 19972027 года Скайнет нанес удар.
- Ядерный?!
- Хуже. Он отменил всему человечеству бронь в спортзал, и люди умерли от ожирения.
- Ядерный?!
- Хуже. Он отменил всему человечеству бронь в спортзал, и люди умерли от ожирения.
лучше общайтесь с ИИ уважительно, а то они вам все припомнят в будущем 😄
За все обиды, человечество ответит коллективно.
Это интересно, спасибо, помните как в рассказе Айзека Азимова Лжец «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред»
Не в рассказе, а в почти во всех его работах на протяжении 40+ лет. Ну и это еще пока не робот.
Забавно что в 50-х годах фантасты считали, что роботы будут первым применением ИИ. В смысле, прям человекоподобные роботы, которые способны сделать всё, что сможет человек, а не их карикатура как сейчас (ну или узкоспециализированные модели).
Забавно что в 50-х годах фантасты считали, что роботы будут первым применением ИИ. В смысле, прям человекоподобные роботы, которые способны сделать всё, что сможет человек, а не их карикатура как сейчас (ну или узкоспециализированные модели).
Действительно похожая ситуация: в рассказе робот сам решил что считать вредом для человека поскольку четкие параметры вреда не были определены. Тут примерно то-же, никто не сказал ИИ что можно а чего нельзя делать для достижения цели. Потенциально, при постановке задачи можно было-бы поставить условие чтобы все действия были предприняты в соответствии с установленными правилами спортзала. Но как-то я очень сильно сомневаюсь что в правилах спортзала прописанно что нельзя вычеркивать людей из очереди пользуясь дырой в программе. Условие не использовать дыры в программе тоже не сработает, поскольку как знать - это дыра или предусмотренная функциональность? Так-что тут как раз ответственность именно на спортзале и их програмном обеспечении, поскольку такое действие возможно было совершить и без участия ИИ.
Кстати, робокопа придумали очень давно, и как раз для того, чтобы наносить вред людЯм. Это скан журнала "Радиофронт" начала 1930х годов...
Не понимаю, чему люди удивляются. Нанятый за бутылку Вася просверлит стену быстрее мастера с репутацией - хотя бы потому, что мастер проверит из чего она сделана и нет ли внутри проводов или труб.
Соответственно - ИИ, который не обучен принимать во внимание кучу иногда неочевидных факторов - будет быстрее делающих это сознательно или инстинктивно людей, но разрушительнее в смысле побочных эффектов.
Соответственно - ИИ, который не обучен принимать во внимание кучу иногда неочевидных факторов - будет быстрее делающих это сознательно или инстинктивно людей, но разрушительнее в смысле побочных эффектов.
- Ефим Маркович , Вы верите в искусственный интеллект?
- Знаете, я и в естественный не особенно верю...
- Знаете, я и в естественный не особенно верю...
Как говорит мой друг: "Они создают искусственный интеллект, потому, что у них не хватает естественного..."
Естественно не хватает. На некоторые задачи нужно тысячи людей и десятилетия исследований. А ИИ сокращает денежные и временные расходы. Но это не означает, что людям можно перестать пользоваться своим интеллектом. Когда-то и бухгалтерские счеты, а потом и компьютеры сократили денежные и временные расходы...
- Ефим Маркович , Вы верите в искусственный интеллект?- Знаете, я и в естественный не особенно верю...
Мне любопытно почему спросили ефима марковича, а не никифора тимофееича
а не никифора тимофееича
Вот почему я всегда прошу ИИ сначала "можно ли так сделать?" и только, если мне это подходит, тогда говорю делать.
В этом случае - вина однозначно на тех, кто делал ПО, которое позволяло постороннему лицу/агенту удалить чужую бронь.
В этом случае - вина однозначно на тех, кто делал ПО, которое позволяло постороннему лицу/агенту удалить чужую бронь.
Есть ли там поворот? Да, но только платный
Также там обсуждается интересный вопрос о том, кто несёт юридическую ответственность за действия ИИ-агента.
Байдену сейчас кстати стало сильно хуже. Борьбу с раком он проигрывает - метастазы пошли в кости 😒
Снова "не того деда".
Снова "не того деда".
Снова "не того деда".
С Байденом, кстати, очень непонятная ситуация: либо у него уж очень быстро прогрессирующий рак, либо кем-то было принято намеренное и циничное решение не лечить его вовремя, поскольку скрыть факт лечения было-бы гораздо сложнее.
В США за все нынче должен отвечать Байден. В крайнем случае Обама. Что будет начиная с ноября? Посмотрим.
Ну, насчёт "того другого деда" я бы не пролил бы и слезинки, но вообще я и имел в виду хуйло. Сейчас смотрю, пытаюсь понять, почему из моего коммента неочевидно, но да, можно и так понять.
Впрочем, если бы метастазы хватили и трампла, я бы только порадовался. Я не знаю, чего этот мудак не заслужил, но его действия, палки в колёса с поставками оружия Украине и прекращение помощи привели к достаточному количеству украинских смертей. То что он превращает США в очередной хуйлостан - тоже мерзко, но тут уже "что выбрали".
Так что надеюсь что он будет в соседнем с хуйлом котле.
Впрочем, если бы метастазы хватили и трампла, я бы только порадовался. Я не знаю, чего этот мудак не заслужил, но его действия, палки в колёса с поставками оружия Украине и прекращение помощи привели к достаточному количеству украинских смертей. То что он превращает США в очередной хуйлостан - тоже мерзко, но тут уже "что выбрали".
Так что надеюсь что он будет в соседнем с хуйлом котле.
Ну, насчёт "того другого деда" я бы не пролил бы и слезинки, но вообще я и имел в виду хуйло.
Сейчас смотрю, пытаюсь понять, почему из моего коммента неочевидно, но да, можно и так понять.
Также там обсуждается интересный вопрос о том, кто несёт юридическую ответственность за действия ИИ-агента
когда ИИ будет управлять такси на проезжей части
Разве Waymo не шагает уже победно американским городам?
кто это будет - пользователь, поставивший задачу? Но тот не ставил задачу агенту действовать незаконными методами.
Со временем их публикации начали раздражать часть руководства eBay: внутренние переписки, позже попавшие в материалы дела, показали, что некоторые топ‑менеджеры считали эти статьи "неблагоприятными" и обсуждали, как "заткнуть" или "убрать" Ину, там даже звучала фраза "с ней надо покончить" ("take her down").
Так что все не столь очевидно. Как в указаниях, так и в программе (по дефолту) нет запрета действовать противозаконно. Кто виноват, вопрос к законодателям или суду.
объем задач, которые ИИ обычно может выполнять самостоятельно, удваивается каждые семь месяцев
Это так каждется, поскольку есть пороги, после которых рост показателя меняется. И почему-то всегда в сторону уменьшения.
У ребенка объем задач, которые он может выполнять, не удваивается, а утраивается или упятеряется каждые семь месяцев. Но в какой-то момент это заканчивается.
Нужно ли вспоминать историю про шахматную доску и рисовые зерна?
Это так каждется, поскольку есть пороги, после которых рост показателя меняется. И почему-то всегда в сторону уменьшения.
У ребенка объем задач, которые он может выполнять, не удваивается, а утраивается или упятеряется каждые семь месяцев. Но в какой-то момент это заканчивается.
Нужно ли вспоминать историю про шахматную доску и рисовые зерна?
Ведь по закону ответственность может нести только юридическое лицо,
Это кто такое сказал?
В данном случае ИИ агент вроде как виноват. Но это как наказать море по методу Ксеркса I.
В следующей итерации ИИ взломает домашнего робота некоего человека в очереди и этот робот убьет того человека. А то все эти аннулирования брони - это полумеры, я считаю.
Ну, вот Джон Коннор когда-то научил Терминатора-2 не убивать людей. И тот просто стрелял по коленям. А до того тот стрелял по людЯм направо и налево, стараясь убить - он же на то и терминатор. Надо и этот ИИ научить манерам.
А так, уверен, весьма скоро юристы "крючкотворы" как-то эту проблему решат и укажут, кто будет юридически отвечать в случае, когда ИИ сделал бобо кому-то. Вот, владелец животного отвечает в каких-то случаях за ущерб, нанесенный его питомцем. Может, пользователей ИИ обяжут принимать публичную оферту насчет того, что пользователь понимает, что несет полную юридическую ответственность за все деяния (действия или бездействия) "своего" ИИ. А, может, и нет. Но как-то это будет урегулировано. Или зарегулировано. Может, даже вусмерть.
А так, уверен, весьма скоро юристы "крючкотворы" как-то эту проблему решат и укажут, кто будет юридически отвечать в случае, когда ИИ сделал бобо кому-то. Вот, владелец животного отвечает в каких-то случаях за ущерб, нанесенный его питомцем. Может, пользователей ИИ обяжут принимать публичную оферту насчет того, что пользователь понимает, что несет полную юридическую ответственность за все деяния (действия или бездействия) "своего" ИИ. А, может, и нет. Но как-то это будет урегулировано. Или зарегулировано. Может, даже вусмерть.
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
если четырехпалубный - может и второй знак быть
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
Это удивленный смайлик.
Он сам офигел, что так смог
Всё просто.
Индийский программер Терминатора выбрал не тот тип переменной. И так оно в релиз и ушло.
Индийский программер Терминатора выбрал не тот тип переменной. И так оно в релиз и ушло.
Индийский программер
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
— Мне в Чехии всюду нравится, — ответил Швейк, — мне всюду попадались славные люди.
Вахмистр кивал головой в знак согласия.
— Народ у нас хороший, симпатичный. Какая-нибудь там драка или воровство в счет не идут. Я здесь уже пятнадцать лет, и по моему расчету тут приходится по три четверти убийства на год.
— Что же, не совсем убивают? Не приканчивают? — спросил Швейк.
— Нет, не то. За пятнадцать лет мы расследовали всего одиннадцать убийств: пять с целью грабежа, а остальные шесть просто так... ерунда.
(с) Я.Гашек
> или немецкий
Я видел порно, которое так начиналось...
Я видел порно, которое так начиналось...
В немецком der Installateur это сантехник. Он программы не устанавливает.
А Programmierer это программист. Он программы не устанавливает - он их пишет. И хорошо, что не работает сантехником, иначе бы из унитаза совочком выгребали, а не смывали.
Programmierer
Eins, Zwei, Installateur,
Drei, Vier, Programmierer,
Funf, Sechs, Kurz KI',
Sieben, Acht, Gute Nacht!
Drei, Vier, Programmierer,
Funf, Sechs, Kurz KI',
Sieben, Acht, Gute Nacht!
Ведь по закону ответственность может нести только юридическое лицо, и кто это будет - пользователь, поставивший задачу? Но тот не ставил задачу агенту действовать незаконными методами. А тогда кто - разработчик ИИ-агента?
Юзер не уточнял как именно надлежит действовать ИИ-агенту. Юзер не запросил план действий на поверку. Программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок (инфа 100% код писал индус, не единожды именно такой говнокод видел после них) и это проблема спортзала. Юзер и спортзал несут коллективную ответственность в данном случае
[ZANUDA OFF]
Юзер и спортзал несут коллективную ответственность в данном случае
А то по-вашему получается, что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем. То-то страховые обрадуются.
что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем. То-то страховые обрадуются.
При страховании заполняется масса форм, в т.ч. с указанием всех имеющихся систем безопасности, материалов стен, дверей и т.д.
От этого напрямую зависит страховой тариф.
Поэтому если в опроснике указать, что у тебя установлена бронированная дверь, а по факту оставить ее открытой с табличкой "добро пожаловать" - у страховой будут вопросы.
А то по-вашему получается, что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем. То-то страховые обрадуются.
И юзера зря подтянул. Он не обязан знать мотивы и возможности ИИ агента.
Вот сидишь ты с приятелем за пивом и говоришь: "где бы денег достать". А приятель идёт и грабит банк. И ты предлагаешь посадить тебя наравне с приятелем. Прелестно.
Вот сидишь ты с приятелем за пивом и говоришь: "где бы денег достать". А приятель идёт и грабит банк. И ты предлагаешь посадить тебя наравне с приятелем. Прелестно.
Аналогий можно привести разных.
Я нашел на улице сто долларов. Кто виноват в потере - бывший владелец, нынешний нашедший, пополам?
Усложняем задачу.
Сотка оказалась фальшивой. Кто виноват в этом - бывший владелец, нынешний нашедший, пополам, или всё же тот, кто её изготовил?
Я нашел на улице сто долларов. Кто виноват в потере - бывший владелец, нынешний нашедший, пополам?
Усложняем задачу.
Сотка оказалась фальшивой. Кто виноват в этом - бывший владелец, нынешний нашедший, пополам, или всё же тот, кто её изготовил?
Ок, именно к страховым прицепились. Наверное некорректный пример, так как здесь денег ни с кого не требуют.
Более точный вариант будет, похоже - посадить владельца дома напополам с грабителем. Именно это предлагает товарищ Stebander.
Так вам лучше?
Более точный вариант будет, похоже - посадить владельца дома напополам с грабителем. Именно это предлагает товарищ Stebander.
Так вам лучше?
Аналогий можно привести разных. Я нашел на улице сто долларов. Кто виноват в потере - бывший владелец, нынешний нашедший, пополам?Усложняем задачу. Сотка оказалась фальшивой. Кто виноват в этом - бывший владелец, нынешний нашедший, пополам, или всё же тот, кто её изготовил?
В нашем законодательстве нельзя найти сотку на улице и оставить себе: сие есть кража. Так что по сотке все вопросы к первому владельцу. Нашедший обязан сдать ее в полицию или в органы местного самоуправления для нахождения ее законного владельца.
А то по-вашему получается, что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем
Я конечно не специалист, но мне кажется что "кража со взломом" это более серьезная статья чем просто кража.
Теги
Информация
Что ещё почитать
Вот это драма!
11.05.2026
68
Кунсткамерные видеонаблюдения освежающих зебр
15.05.2026
74
Грязные деньги
18.06.2026
28
