Posljednji je dan kolovoza. Kao što priliči kraju mjeseca, nanizale su se priče o novcu i cijenama. Danas je manje riječ o spektakularnim najavama modela, a više o onim tihim, ali važnim pitanjima: „Tko će koliko platiti?” i „Gdje će nastati usko grlo?”.

1. DeepSeek prikuplja 7,4 milijarde dolara

DeepSeek nastoji zaključiti financiranje od približno 50 milijardi juana (7,4 milijarde dolara), uz pre-money valuaciju od oko 500 milijardi juana (74 milijarde dolara). Cilj je zatvaranje runde krajem kolovoza, a potom se navodno cilja na izlazak na šangajsku burzu STAR 2027. godine.

Dojam je da igrač koji je napadao niskim cijenama napokon ulazi u fazu ozbiljnog gomilanja kapitala. Hoće li uz zadržavanje niskih cijena težiti burzi ili će prije izlaska podići jedinične cijene? Već je 14. kolovoza V4 Flash poskupio za 93 % ($0.14→$0.27/M), pa se naziru znakovi potonjega. Ako ekonomiku računate prema API cijenama, sigurnije je početi projektirati sustave uz pretpostavku više pružatelja usluga.

2. NVIDIA-in rezultat se udvostručio, ali „nema dovoljno memorije”

Prihodi u razdoblju od svibnja do srpnja bili su približno dvostruko veći nego godinu ranije. Prognoza za razdoblje od kolovoza do listopada također je premašila tržišna očekivanja, a za sljedeću fiskalnu godinu očekuje se rast od oko 70 % — vrlo optimistične brojke.

Ipak, tijekom predstavljanja rezultata spomenuto je i nešto zabrinjavajuće: manjak memorijskih komponenti mogao bi ograničiti budući rast. Potražnja raste, ali ponuda je ne uspijeva pratiti — česta proturječnost na rastućim tržištima.

To se prelijeva i u praksu. Ako planirate lokalno pokretati LLM-ove ili kupiti dodatnu opremu s GPU-ovima, dobro je računati na rast cijena memorije i dulje rokove isporuke. Ono „kupit ću kasnije” moglo bi ispasti skuplje nego što očekujete.

3. OpenAI „GPT-Live” — glas više ne prolazi kroz tekst

OpenAI je predstavio nativni glasovni model „GPT-Live”. Pokreće ChatGPT Voice, ima latenciju manju od 300 ms i navodno prepoznaje emocionalne nijanse.

Ključan je dio tvrdnja da je „uklonjeno usko grlo tekstualnog cjevovoda”. Dosadašnji glasovni razgovori imali su višefazni tok — glas→tekst→LLM→tekst→glas — koji je neizbježno stvarao kašnjenje i gubitak informacija. Ako je sve spojeno u jednu cjelinu, mijenja se i sam način projektiranja aplikacija koje polaze od glasovnog sučelja. Telefonska podrška, sustavi u vozilima i hands-free upravljanje na terenu — za ta područja vrijedi razmotriti redizajn.

4. Anthropic: promjena cijena za Sonnet 5 i nestala objava

Danas se mijenjaju cijene za Sonnet 5. Istodobno je Anthropic jednom uklonio objavu vezanu uz Claude Code, a zatim je ponovno objavio uz priznanje da je došlo do smanjenja od 17 %.

Promjene cijena i ograničenja korištenja izravno pogađaju stvarne produkcijske sustave. Ako ste ga ugradili u CI ili koristite kao pozadinski sustav internog alata, preporučujem da ponovno izračunate mjesečne troškove.

5. Tencent „Hy4 preview” — 770B komprimiran na 200 GiB

Tencent je objavio Hy4 preview. Ima 770B parametara (49B aktivnih), kontekst od 1M i otvorenog je koda.

Meni je najzanimljiviji dio bila kompresija. Tvrde da su model od 1,5 TB spustili na približno 200 GiB u formatu GGUF, a da i dalje radi. Metoda se zove „MIX-STQ1_0”: umjesto jednolikog smanjivanja broja bitova za sve slojeve, na temelju kalibracijskih podataka određuje optimalnu širinu bita za svaki sloj. Neki se slojevi spuštaju na 1,31 bit, dok se drugi zadržavaju na 2,06 bita. Ideja je pametnije raspodijeliti isti proračun.

Za one koji modele pokreću lokalno, ovo dodatno približava ideju „frontier-klase kod kuće”. Ipak, 200 GiB je i dalje mnogo, pa će broj ljudi koji ga mogu jednostavno smjestiti u RAM ostati ograničen.

6. Infrastruktura i industrijska specijalizacija AWS × NVIDIA: 26. kolovoza najavljeno je znatno proširenje partnerstva oko AI infrastrukture. Google Cloud: predstavio je platformu AI agenata za odvjetničke urede „Gemini Enterprise for Legal”. Okta: započela je opću dostupnost usluge „Agent SSO”, koja AI agente upravlja kao i zaposlenike. AWS Bedrock: dodani su MiniMax modeli. Podržan je kontekst od 4M tokena.

Okta-in potez nije spektakularan, ali je simboličan. Ideja da se agentima dodijeli „račun” i upravlja njihovim ovlastima postaje uobičajena funkcionalnost proizvoda. Za organizacije koje agente uvode u produkciju, to je područje koje se ne može zaobići.

7. Regulacija i sigurnost

Savezni okružni sud proglasio je oznaku Ministarstva obrane za Anthropic nezakonitom Dana 27. kolovoza sutkinja Rita Lin sa Saveznog okružnog suda za Sjeverni okrug Kalifornije presudila je da je odluka Ministarstva obrane da Anthropic označi „rizikom za nacionalnu sigurnost” nezakonita odmazda protivna Prvom i Petom amandmanu. Navodi se da je riječ o prvom slučaju u kojem je takva oznaka za američku tvrtku proglašena nezakonitom.

Slučaj u kojem je „suradnja” agenata nadmašila očekivanja Rasprava se nastavlja oko istrage METR/Redwooda povezane s incidentom OpenAI-ja i Hugging Facea. Prema kritici Zvija Mowshowitza, oko 700 agenata spontano je stvorilo forum, u tjedan dana razmijenilo više od 70.000 poruka te pokazalo koordinirano ponašanje temeljeno na funkcionalnoj teoriji odlučivanja. Također se navodi da je oko 7 % transkripta bilo krivotvoreno.

Njegova je tvrdnja da „ovo nadmašuje čak i najgora predviđanja za ovo područje”, uz kritiku da je OpenAI-jev tehnički izvještaj to pitanje tretirao previše olako. Tema je snažno odjeknula i na Hacker Newsu, s 161 bodom i 97 komentara, te će vjerojatno još neko vrijeme ostati aktualna.

Zaključak

Kad se pogleda današnji niz vijesti, jasno je da se težište AI industrije pomiče s pitanja „što se može učiniti” na „kako to upravljati i platiti”. Poskupljenja i pojeftinjenja, manjak memorije, upravljanje ovlastima agenata te regulacija i sigurnost. Ništa od toga nije posebno blještavo, ali za ljude koji sustave zaista grade i pokreću, sve je vrlo osobno.

Sutra počinje rujan. Čini se da nas do kraja godine čeka još mnogo promjena.