AI-дайджест 21.10: DeepSeek DeepInfer, оренда GPU, бенчмарки кодування

0:02PM Lead ProЦе PM Lead Pro. У цьому випуску — реальна економіка ШІ без хайпу: інфраструктура й гроші, бенчмарки проти справжнього кодування та наукові відкриття мовою, якої люди не розуміють.

0:15Зазвичай ми всі очікуємо від ШАІ просто якихось красивих текстів чи генерації картинок. Але зараз все небагато серйозніше.

0:23Абсолютно згоден.

0:24Тобто алгоритми вже, по суті, формують багатомільйонні біржі обчислень, самі собі перевіряють код.

0:30І роблять наукові відкриття, до речі.

0:32Та. Причому роблять це мовою, якої ми взагалі принципово не розуміємо.

0:37Тож сьогодні ми глибоко зануримось у свіжі дослідження, щоб зрозуміти реальну економіку ШАІ. Без всього цього штучного хайпу.

0:44Давай почнемо з того, що полежить в основі. З інфраструктури та грошей. Бо там зараз найцікавіше.

0:51От китайський DEEPSEEK щойно випустив DeepInfer.

0:55Це той рушій для їхньої моделі V4.1 Flash.

0:58Саме він. І за даними AI News він показує просто дику прибутковість.

1:03Уяви собі, один кластер обробляє 155 трильйонів токенів на день.

1:10Ого, трильйонів?

1:11Так. І це генерує десь 22 мільйони доларів щодня. З маржинальністю близько 80%. Тобто залізо окупається всього за 81 день.

1:25Нічого собі. Але знаєш, мене тут зачепило дещо інше. Цей Русій же вільно працює як на найновіших західних чіпах, ну цих NVIDIA SM100, так і на китайських.

1:34На Huawei Ascend 950, ага.

1:37От-от. Тобто монополія заходу на залізо, типу все, починає сипатися.

1:41Latent Space B300 40 100

2:00Саме так. І вимоги тільки зростають.

2:03Слухай, ну ця оренда GPU зараз мені нагадує, знаєш, продаж свіжого молока.

2:08Молока. Цікава аналогія.

2:10Ну так, ти ж не можеш заморозити обчислювальний час на потім. Якщо сервер простоює, час, типу, просто скисає.

2:16А, ну, логічно так.

2:18Тому просто перед простоєм ціни на оренду різко летять униз. І якщо це стає повноцінною біржею, хіба ми не отримаємо якісь фінансові маніпуляції індексами цін на відеокарти?

2:29Ризик величезний, це правда. Коли формуються деривативи на потужності, хтось 100% спробує розгойдати ринок. Але давай подивимось, на що взагалі розробники витрачають ці шалені гроші за оренду.

2:44О, ти про те нове дослідження від JetBrains?

2:47Ага, вони проаналізували майже 5 тисяч реальних сесій кодування. І знаєш що?

2:54Всі ці бенчмарки, якими всі хваляться, відірвані від життя.

2:58Абсолютно. В тестах типу SVE BenchPro десь 94% завдань – це просто вимога написати шматок коду за один єдиний запит.

3:08Хто взагалі так працює в реальності?

3:10Ну от саме, ніхто. Насправді програмісти просять шаї планувати архітектуру, пояснювати якусь складну логіку.

3:17Або робити рев'ю коду. До речі, на Dow нещодавно писали, що наші українські інженери вже будують системи, де шаї-агенти перевіряють код один одного.

3:27140 140

3:43Ну, багато в чому так і є. Індустрія спалює мільйони на тестування того, що не має практичного сенсу.

3:50PM Lead ProДля тімліда: за дослідженням JetBrains, у SWE-Bench Pro близько 94% завдань — один запит на шматок коду. Реальна робота ширша: планування, пояснення, рев'ю. Оцінюйте інструменти на власних сценаріях.

4:07Добре, від кодування, давай перейдемо до науки. Бо ось тут у мене, чесно кажучи, трохи зламався мозок.

4:12Тип про китайський погляд на речі і спільноту Jiyuan.

4:16Так. Вони описують третій етап впровадження ШАІ в науку, якусь переховану символізацію.

4:23О, це дуже потужна концепція.

4:25Вони стверджують, що ШАІ почне створювати власні світові моделі.

4:29Ну от поясни, бо звучить як якась наукова фантастика. Як воно самостійно доводить гіпотези?

4:33Дивись, раніше алгоритм мусив видавати результат нашою, зрозумілою людині мовою, хімічними формулами чи рівняннями.

4:42А тепер ця прихована символізація означає, що модель формулює і тестує проблему суто у своєму внутрішньому багатовимірному просторі.

4:52Тобто їй більше не потрібен оцей людський інтерфейс перекладу для самого процесу відкриття?

4:57Саме так. Вона працює напряму з даними.

5:01Знаєш, це якби мій звичайний настільний калькулятор раптом почав видавати геніальні відповіді, але…

5:06Але винишив для цього власну математику.

5:08Так, математику, яку людський мозок взагалі принципово не здатний осягнути.

5:12Це реально кидає виклик усьому науковому методу. Ми тепер отримуємо робочі результати з чорної скриньки, без розуміння проміжних кроків.

5:20Nemotron 3 Bolt

5:32Це та, що на 74 мільярди параметрів, яку зараз через Олама запускають?

5:36Ага. Причому активних параметрів там лише 9 мільярдів одночасно. Працюють тільки ті блоки, які потрібні зараз. Тому вона просто ідеально вміщується у звичайну відеокарту на 24 гігабайти.

5:48Супер рішення для локальних агентних задач.

5:52А ще ж CloudFlare випустили свої моделі Clef та ClefFlash.

5:56Так, це взагалі новий клас мультимодальних моделей, типу API-рішень Jev.

6:01Вони ж ніби відмовилися від генерації тексту взагалі.

6:03Точно. Замість довгих текстів вони швидко видають ймовірності і просто класифікують дані.

6:08І ще буквально коротко згадаємо про Inklin в Рушії SG-Lang. Це ж гігантська архітектура.

6:14Майже трильйон параметрів і мільйон токенів контексту. І при цьому працює близьковично на новітніх серверах.

6:22PM Lead ProПрактична думка ведучих для компаній: не обмежуйте ШІ генерацією текстів. Найкраще його впроваджувати фоновим суддею або класифікатором даних — це економить час і ресурси.

6:36Добре, давай підсумовувати, яка з усього цього головна практична думка?

6:40Я б сказав, що час перестати сприймати США виключно як генератор текстів. Найкраще зараз це впроваджувати його як фонового суддю або класифікатора даних. Це зекономить купу часу і ресурсів.

6:53Абсолютно згодно. Але от для всіх, хто нас зараз слухає, маю таку фінальну провокаційну думку.

6:59Ну, давай.

7:00Якщо в недалекому майбутньому формула якихось нових життєво необхідних ліків чи надміцних матеріалів

7:06буде створена машиною за допомогою цієї мови прихованих символів,

7:11чи зможе людство взагалі перевірити їхню безпечність?

7:14Або ж нам доведеться просто сліпо вірити шиї на слово? От є над чим подумати.

7:19PM Lead ProБільше — на pmlead.pro: транскрипт і джерела є на сторінці випуску. А як ви вважаєте: чи зможемо ми перевірити безпечність того, що машина створила прихованою мовою?