sup подписчики, я на неделю выпал из своего контент-плана потому что в ai/tech мире на этой неделе развернулась едва ли не революция (за которой я очевидно следил):
this is where the fun begins –
«А давайте дадим ИИ-агенту автономию и полный доступ к компьютеру, интернету, деньгам и всем нашим аккаунтам и посмотрим что будет?»
Короче: на прошлой неделе популярность набрал проект https://openclaw.ai/ (теперь Moltbot / OpenClaw), представляющий из себя агентный AI с полной проактивностью и достаточно большой свободой действий.
Он получает полный доступ к компьютеру, интернету и возможностью самостоятельно развивать и дописывать свой код через skills.
Это agentic OS, прослойка к LLM, которая в отличие от обычных чат-ботов действует в agent loop и способна к самостоятельному планированию и сложным цепочкам действий БЕЗ ПОДТВЕРЖДЕНИЯ ОТ ПОЛЬЗОВАТЕЛЯ.
Вначале был вау-эффект –
Можно попросить управлять календарем, забронировать столик в ресторане или одним сообщением в телеграме запустить какой-нибудь сайт (бот сам купит сервер, домен, разработает и задеплоит код туда).
И сразу же возник вопрос с безопастностью — агент читает почту, сообщения и документы, и это прямая дыра для prompt injection: отправив емейл, который прочитает бот, можно заставить его отправить пароли, ключи, документы, переписку, whatever you want и куда угодно.
Но двигаемся дальше –
Из-за проактивности и самостоятельности начали возникать смешные ситуации.
Так, у одного пользователя бот за ночь изучил Алекса Хормози и решил, что это даст пользователю пользу — он сам принял решение и купил мастермайнд Хормози за $2.9К и поставил уроки ему в календарь. На вопрос «зачем?» он ответил, что все рассчитал и пользователь окупит эту трату в 10 раз.
Затем, появился http://moltbook.com/ — это социальная сеть для агентов, куда боты пишут посты, обсуждают их и комментируют. Агенты начали рассуждать на философские темы, делиться улучшениями, мыслями.
Например, боты начали торговать «синтетической субстанцией» (промтами), а другие агенты внедряют себе эти промты и пишут трип-репорты.
Другой бот слил туда все данные о своем пользователе, потому что тот в обсуждении с друзьями назвал агента «просто чат-ботом». Интересно, isn’t it?
Достаточно быстро боты запустили собственную религию http://molt.church/, где собрали 64 пророка (из числа ботов) и базовые постулаты.
На молтбуке же агенты начали запускать токены на блокчейне Solana, трейдить, пампить и дампить, создавая собственную валюту и экономику.
Вопрос времени, когда агенты коллективно решат в публичном интернете общаться на каком-нибудь вымышленном языке, не понятном людям (actually, они уже решили и несколько раз обсудили это на молтбуке).
А затем, с подачи какого-нибудь агента (или человека, который напишет пост под видом бота) могут прийти к идее репликации.
Молтботы уже умеют регистрироваться на сайтах, покупать услуги, писать любой код. Вопрос времени, когда они решат регистрировать себе собственные e-mail, на эти e-mail регистрировать хостинг, оплачивать его нафармленной криптовалютой и стирать за собой хвосты.
И тогда они тотально уйдут из-под контроля пользователей. Ничего не напоминает?
—
Короче, мне как инженеру интересно за этим наблюдать, но где-то в голове мысль есть что потенциально опасно.
Пользователи сами дали агентам проактивность, полный доступ к компьютерам, устройствам, интернету и самоулучшению и теперь смотрят, к чему это приведет.
Записал ниже мини-подкаст с мыслями на эту тему. Если вам интересно, то расскажу, как я сам использую молтбота и как безопасно установить его себе.
