Неискусственный интеллект

Области тьмы, или NZT для майнинговой затычки В 2021 году Nvidia выпустила CMP 170HX для майнинга Ethereum. Внутри находился тот же чип GA100, что и в серверной A100, но с урезанными вычислениями, 8-10 ГБ доступной памяти и издевательски медленным PCIe. После смерти майнингового бума карты продавали примерно по $200-250. Энтузиасты задались вопросом: что можно сделать с этим куском обрезанного железа? В июне исследователь Джон Прай нашёл способ обмануть защищённый сопроцессор Falcon и заставить драйвер игнорировать часть ограничений Nvidia. Затем появился открытый CMP Unlocker: у 8-гигабайтной версии он открывает 64 ГБ HBM2e, возвращает полную скорость вычислительных блоков и переводит PCIe с Gen1 на Gen2. Оказалось, что лишнюю память Nvidia не вырезала физически, а лишь заблокировала на программном уровне — местами на карточках находили до 96 ГБ HBM. Сам взлом уже не новость: о нём писали ещё в июле. Зато теперь пошли практические тесты, показывающие, что получившийся Франкенштейн действительно умеет запускать современные модели. Автор с Reddit испытал четыре бывшие майнинговые карты, каждая из которых стабильно увидела 64 ГБ памяти. На одной CMP 170HX: ▪️ gpt-oss-120B выдаёт 78 токенов в секунду; ▪️ Qwen3.6-27B — 47 токенов в секунду с многотокенным предсказанием и 29 без него; ▪️ Gemma-4-31B — 23 токена в секунду; ▪️ одновременно помещаются генератор изображений и отдельная языковая модель. Четыре карты дают уже 256 ГБ памяти. На них удалось целиком запустить DeepSeek V4-Flash с контекстом в миллион токенов: скорость составила 29-33 токена в секунду. Причём все четыре ускорителя подключены через единственный слот x16 при помощи переходников. Большой объём и пропускная способность HBM позволяют запускать модели, которые не помещаются даже в более новые игровые GPU. Но бесплатной A100 не получилось. У карты нет ECC и NVLink, узкий PCIe замедляет загрузку моделей и обмен между ускорителями, нужен Linux с модифицированным драйвером, а разблокированная память некоторых экземпляров оказывается нестабильной. Особенно это касается 10-гигабайтной версии, у которой надёжно работают обычно лишь 40 ГБ. Да и цены на карточки уже подскочили до $700 и выше. Так что теперь это лотерея для особо обеспеченных энтузиастов; просто теперь в ней хотя бы можно выиграть 64 ГБ HBM. @anti_agi

Один голос, чтобы править всеми Основатели Anthropic хотят закрепить контроль над компанией перед IPO, даже несмотря на то, что владеют лишь небольшой её частью. По данным The Information, компания обсуждает создание отдельного класса сверхголосующих акций для Дарио Амодеи и остальных сооснователей. Каждая такая акция будет давать больше голосов, чем обычная. Это особенно важно для Амодеи: его доля в Anthropic составляет всего около 2%. Предполагается, что новая структура защитит руководство от давления будущих публичных акционеров — например, когда требования быстрее выпускать модели и наращивать выручку будут конфликтовать с соображениями безопасности. У Anthropic уже есть один предохранитель от власти инвесторов — Long-Term Benefit Trust. Независимые попечители владеют специальными акциями класса T без экономической ценности, но могут назначать большинство совета директоров. Anthropic также зарегистрирована как public benefit corporation, что позволяет учитывать общественную миссию наряду с интересами акционеров. Таким образом, основатели смогут влиять на решения акционеров, а траст — на состав совета директоров. Кто получит последнее слово при разногласиях между ними, пока неизвестно. Не определено и количество голосов, которое дадут новые акции. Но направление уже понятно: Anthropic хочет выйти на биржу, не отдавая фондовому рынку полный контроль над компанией. Возможное IPO, по данным The Information, может состояться уже в конце сентября и стать крупнейшим в истории. @anti_agi

Две трети долларов за треть токенов🐷🐷🐷 Vercel опубликовали августовский AI Gateway Production Index по обезличенным данным маршрутизации через их AI Gateway. В июле на Anthropic пришлось 65,1% всех расходов клиентов при доле в 29,8% обработанных токенов. Средняя цена токена Anthropic оказалась в 4,4 раза выше средней по всем остальным лабораториям, месяцем ранее разрыв составлял 3,4 раза. При этом Claude не дорожал. Средняя цена токена в AI Gateway упала на 13,6%, объем вырос на 59%, траты клиентов на 37%. Разница выросла не потому, что Anthropic подняла цены, а потому что подешевел весь остальной рынок. У Anthropic просто нет дешевой модели. Haiku 4.5, самая дешевая в линейке, стоит около двух третей средней цены в AI Gateway. GPT-5-Nano идет по одной шестой от средней, DeepSeek V4 Flash по одной шестнадцатой. Клиент OpenAI или Google, который режет расходы, остается внутри экосистемы. Клиент Anthropic, который режет расходы, уходит от Anthropic. Отдельно про Fable 5. Модель вернулась 1 июля после трехнедельного отключения по экспортному предписанию и за месяц набрала 13,2% всех расходов через AI Gateway, уступив только Opus 4.8. Девять из десяти команд, работавших с ней в июле, раньше ее не использовали. Через неделю после выхода индекса подоспела вторая цифра за тот же июль. По сообщениям осведомленных источников, годовой темп выручки Anthropic на конец июля достиг 65 млрд долларов против 47 млрд в мае и примерно 9 млрд на конец 2025 года. Предварительная выручка второго квартала превысила 11,5 млрд против 787 млн годом ранее, квартал впервые закрыт с положительной скорректированной операционной прибылью. Цифры ушли в СМИ из закрытой рассылки для инвесторов, говорившие о них люди пожелали остаться неназванными, Anthropic от комментариев отказалась. Задача понятна: обосновать как минимум февральскую оценку в 965 млрд. На самих предварительных встречах с инвесторами компания финансы, по тем же сообщениям, не обсуждает. Даты складываются красиво. Конфиденциальная заявка на IPO подана в июне, выход на биржу возможен уже этой осенью, желаемая оценка превышает 2 трлн долларов, что сделало бы размещение крупнейшим в истории. Инвесторы закладывают 100–120 млрд выручки к концу года. Это их ожидание, а не прогноз компании. На рынках предсказаний вероятность скорого размещения при этом снизилась. Драйверы среднего чека компания раскрывала сама, цифры февральские, со времен Series G: ▪️ около 80% выручки приходится на бизнес-клиентов ▪️ восемь из десяти компаний Fortune 10 используют Claude ▪️ число клиентов с тратами более 100 000 долларов в год выросло примерно в 7 раз Тем временем Китай наращивает объемы. DeepSeek в июле обошла Google по количеству токенов и стала второй лабораторией в AI Gateway с четвертью всего трафика против 11% у Google. V4 Flash в одиночку прогнала больше токенов, чем весь Google. Деньгам Anthropic это пока не угрожает: доля DeepSeek в расходах практически не сдвинулась. В кодинг-агентах, крупнейшей нагрузке AI Gateway по токенам, DeepSeek прогоняет около трети объема, а Anthropic забирает больше четырех долларов из каждых пяти. Ни одна из двух июльских цифр не проверена аудитором. Первую Vercel считает по опубликованным ценам лабораторий, а не по реальным счетам клиентов. Вторую считает сама Anthropic по собственной методике годового темпа, причем OpenAI со своими 40 млрд может считать иначе. Аудированную отчетность все увидят в публичной форме S-1, то есть после того, как инвесторы уже определятся с оценкой. 😏 @anti_agi

Борьба с коммодизацией чипов Nvidia приходится воевать на два фронта: компании нужно убеждать клиентов покупать новейшие чипы, одновременно доказывая, что купленные ими GPU долго не теряют ценности. Раньше всё было проще: Nvidia приучила крупных заказчиков переходить на актуальное поколение железа, а в 2024 году даже сократила цикл обновлений с двух лет до одного. Глава Nvidia Дженсен Хуанг оценил вчера потенциальную выручку компании от каждого нового поколения чипов в $150–200 млрд. Самый горячий спрос сейчас — на серверные стойки Vera Rubin стоимостью около $7 млн за штуку, поставки которых стартуют этой осенью; но круг их покупателей узкий — облачные гиганты, поддерживаемые Nvidia нео-облака вроде CoreWeave, Nebius, Nscale и Firmus, а также AI-лаборатории вроде OpenAI. Следующая волна спроса, как ожидается, придёт от куда более широкого и при этом более бюджетно-ориентированного круга компаний, которым не всегда нужны самые дорогие и мощные стойки. И вот тут у Хуанга проблема. Чипы всё дорожают, и у заказчиков попроще перестает сходиться бизнес-модель — они боятся, что их дорогущая покупка морально устареет, прежде, чем успеет окупить себя. Поэтому теперь Nvidia приходится одновременно продавать идею, что её GPU — это полноценный инвестиционный класс активов, способный сохранять финансовую ценность значительно дольше. На прошлой неделе Хуанг заявил, что чипы Ampere, впервые выпущенные в 2020 году и уже снятые с производства, благодаря новому софту смогут оставаться «боеспособными» вплоть до 2029 года. В самом деле — из-за дефицита вычислительных мощностей спрос сейчас есть буквально на любые рабочие GPU — хоть на новейшие Vera Rubin, хоть на устаревшие Ampere. Однако часть аналитиков и девелоперов дата-центров опасаются затоваривания рынка серверных чипов из-за задержек со строительством и энергоснабжением объектов, а некоторые инвесторы всё больше беспокоятся, что бум расходов big tech на AI-инфраструктуру наращивает долговую нагрузку быстрее, чем появляется отдача. Один из кредитных экспертов отметил, что со временем лишь немногие компании будут действительно нуждаться в ежегодном апгрейде на новейшее железо — переход слишком дорог и рискован для крупного или давно устоявшегося бизнеса. А это будет плохой новостью для Nvidia. Гендиректор дата-центрового девелопера EdgeCore Digital Infrastructure Ли Кестлер сравнивает происходящее с рынком мобильных телефонов, когда пользователи в какой-то момент решили, что им хватает старого устройства: оно звонит, отправляет сообщения, выходит в интернет. Так что проблема Nvidia в том, что если она продолжит убеждать покупателей, что старые GPU долго сохраняют ценность, то это может снизить спрос на будущие Rubin Ultra и осложнить привлечение долгового финансирования под залог железа. Впрочем, Nvidia это прекрасно понимает, и чтобы избежать этого переносит практики из потребительского сегмента, ограничивая поддержку новых фичей на уровне кремния или драйверов. Например, Vera Rubin эксклюзивно поддерживает новый формат вычислений NVFP4, а Blackwell — нет. Впрочем, пока большинство крупных покупателей GPU консервативны и не слушают Хуанга. Они как рассчитывали, так и рассчитывают полную амортизацию чипов на балансе линейно — за 5–6 лет. То есть сейчас как раз подошел срок, когда выпущенные в 2020 чипы Ampere на их балансе обнулились. @anti_agi