AI-дайджест 30.09: хибні джерела агентів, DeepSeek без CUDA, локальні моделі

0:02PM Lead ProЦе PM Lead Pro. AI-дайджест за 30 вересня. Говоримо про те, чому агентові мало знати правильну відповідь і треба показати джерело. А ще: як DeepSeek обходить CUDA і що вже запускається на домашній відеокарті.

0:17Сьогодні в нашому розборі ми беремося за нову реальність автономних шай-агентів.

0:24Уявімо таку ситуацію. Новітній агент знаходить просто блискуче вирішення складної юридичної проблеми.

0:31Але як доказ він дає лінк на статтю з Вікіпедії, яку хтось відредагував 5 хвилин тому замість реального судового прецеденту.

0:39О, так-так. Факт абсолютно правильний, але джерело хибне. У критичних сферах це, знаєш, не просто помилка, це катастрофа.

0:46100%

0:47І я так розумію, саме цю проблему зараз фіксують у нових дослідженнях

0:52Саме так

0:52Hugging Face та Vespa щойно опублікували дані про цю тривожну тенденцію

0:56Вони називають це злиттям джерел

0:59Ти ж пам'ятаєш, на OpenAI DevDate 2026 презентували оцих нових агентів DOTS на базі моделі Astra

1:05Ага, і там ще був цей їхній надшвидкий Decisions API

1:09Точно

1:10Це ж очевидна відповідь на архітектуру ДЖЕВ

1:13Але от у чому парадокс. Чим автономнішим і швидшим стає агент, тим важче простежити, звідки саме він бере свої висновки.

1:21Це реально нагадує студента, який знає правильну формулу, але в курсовій навманя ліпить посилання, бо просто забув, де він це прочитав.

1:29Дуже влучне порівняння. І щоб це виправити, розробили новий інструмент – Provenance Guard.

1:35Але постривай, чи не вб'ється постійна перевірка джерел головну фішку нових моделей? Я маю на увазі швидкість.

1:42Агенти ж і так часто думають надто довго.

1:45А отут криється геніальність інженерного рішення.

1:48provenance guard 80 Provenance Guard 80 F1 0

2:03Користувач затримки фактично не помічає. Система одночасно знаходить правильне джерело і відфільтровує сміття.

2:10Звучить круто. Але ж такі паралельні перевірки вимагають колосальних ресурсів.

2:15PM Lead ProВисновок для тімліда: вимагайте від агента не лише відповідь, а й джерело. За словами ведучих, Provenance Guard перевіряє джерела паралельно, і користувач затримки майже не помічає.

2:28Залізу має бути надпотужним. І поки всі на заході шукають, де взяти більше чіпів, Китай, схоже, просто змінює правила гри.

2:36О, це ти про DeepSeek і їхній новий інструмент TileLang.

2:39Саме про нього. Але дивись, захисний бар'єр, який тримає монополію NVIDIA, це ж не тільки самі відеокарти.

2:46Це їхня програмна екосистема CUDA. Розробники просто не хочуть вчити нові низькорівневі мови для інших процесорів.

2:54Абсолютно точне зауваження.

2:55І саме цей бар'єр Тайл-Ленг і руйнує. Вони зробили так, що тепер надскладні моделі можна запускати на китайських чіпах Huawei Ascend 950W. Взагалі без куда.

3:06Тобто вони повністю оминають інфраструктуру NVIDIA?

3:09Повністю. Завдяки високорівневій абстракції 500 рядків складного ручного коду перетворюються на якихось 30 рядків звичайного Python. А пам'ять система оптимізує сама.

3:19Нічого собі. Бар'єр входу для розробників просто зникає.

3:24Не дивно, що DeepSeek вже замовив 160 тисяч таких чіпів від Huawei.

3:28Вони будують паралельну реальність з нуля.

3:31Так. І знаєш, що цікаво?

3:33Поки на Сході розгортають нове залізо, на Заході намагаються зрозуміти, чому деградує те, що вже є.

3:39LiveLNF Clod Opus 5

3:50А як саме він це робить? Бо зазвичай оцінки дуже суб'єктивні.

3:53От саме в цьому і фішка. Вони використовують заморожені промпти та жорстко фіксовані умови.

3:58Це дозволяє чітко бачити, чи не стають моделі тупішими,

4:02після того, як розробники випускають якісь непомітні оптимізації для економії ресурсів.

4:06Знаєш, оця проблема прихованої деградації через економію – це ж фундаментальна річ для будь-якої інфраструктури.

4:13PM Lead ProЯкщо ваші процеси спираються на моделі, пам'ятайте про приховану деградацію. Підхід із розмови простий: ті самі промпти й незмінні умови тестування. Так видно, чи не погіршилася модель після непомітних оптимізацій.

4:28Навіть у реальній економіці. От Банк міжнародних розрахунків щойно оновив правила страхування депозитів.

4:34Ті нові вимоги про гарантоване повернення коштів за сім днів?

4:36Так, так. Вони намагаються прибрати цей прихований моральний ризик.

4:42Це коли банки беруть на себе забагато зобов'язань, знаючи, що держава їх все одно врятує.

4:46Система працює на межі.

4:48Дуже влучна паралель.

4:49Це невидимі ризики. До речі, на Marginal Revolution зараз активно обговорюють нову книгу Shade.

4:55Там піднімається дуже схожа тема, але про екологію міст.

4:58А, про дерева в Лос-Анджелесі.

5:00Точно. Через нові закони про ущільнення забудови там масово знищують міські дерева.

5:05Здавалося б, ну, просто зникає тінь. Але місто втрачає мікроклімат,

5:09і це призводить до просто шаленого зростання навантаження на енергомережі.

5:13Бо всі масово вмикають кондиціонери.

5:16Тобто ігнорування інфраструктурних обмежень, чи то електромережі, чи системи ШАІ під навантаженням, завжди має величезну приховану ціну.

5:42Але що там на глобальному рівні?

5:44На глобальному є дві цікаві речі.

5:46NVIDIA випустила Kumo Tabular.

5:48Це така крихітна моделька від 28 до 215 мільйонів параметрів.

5:52Вона робить передбачення суто за таблицями.

5:55І що, зовсім без донавчання?

5:57Абсолютно.

5:58Плюс оновився MinerU до версії 4.0, він тепер ідеально структурує PDF-файли спеціально для агентів.

6:04Але справжня магія зараз у спільноті Lama.cpp.

6:08Вони адаптували Chornery Bonsai 2 на 27 мільярдів параметрів та Kven 3.8.

6:13Стоп-стоп, як 27-мільярдна модель може працювати локально?

6:18Фізично ж не вистачить оперативної пам'яті на звичайній відеокарті.

6:21У тому й фокус. Вони використали екстремальне тернарне квантування.

6:25Ваги моделі стиснули настільки, що вона не просто влазить у 16 гігабайтів домашньої RTX 5060 Ti,

6:32а ще й обробляє контекст у 256 тисяч токенів.

6:36Фантастика.

6:37І видає швидкість 40 токенів за секунду.

6:40Тобто глибока аналітика більше не прив'язана до серверних кімнат.

6:44Ну що ж, підсумовуючи це все, наступного разу, коли автономний агент видасть вам плескучу аналітику,

6:50Головним питанням має бути не, чи це правда, а з якого саме рядка взято цей факт.

6:56Дуже правильна думка.

6:57Бо у реальності, де нейромережі генерують що завгодно, навіть на домашньому комп'ютері,

7:03верифіковане та доведене джерело – це тепер найдорожча валюта у світі.

7:07Варто задуматися над тим, як ми перевіряємо інформацію у своїх робочих процесах.

7:12PM Lead ProБільше матеріалів на pmlead.pro. Транскрипт і джерела дня є на сторінці випуску. Питання до вас: як ви перевіряєте, звідки ваш агент узяв факт?