V roce 2002 jsem založil Hosting90. Osmnáct let jsem ji budoval od garáže přes tým 25 lidí až po úspěšný mezinárodní exit do WY Group v roce 2020. Vím, co je to cash flow, marže, provoz firmy a jak těžké je vydělat korunu. Nedívám se na technologie jako programátor, ale jako podnikatel.
Zároveň jdu v technologii do absolutní hloubky. Jsem klíčový přispěvatel open-source projektu vllm-mlx (inference AI na Apple Silicon), kde mám 58 začleněných PR. Jako CTO jsem navrhoval a vedl technickou architekturu a AI řešení tří produkčních AI produktů (Advanty, Margly, Discury).
Právě na nich je vidět, jak se technická rozhodnutí podřizují ekonomice: dávková práce Advanty běžela plně na vlastní infrastruktuře (Apple Silicon / vllm-mlx) za zlomek nákladů, Margly na cloudu kvůli spolehlivosti orchestrace a Discury kombinovalo obojí. Když je potřeba, jdu až na síťovou vrstvu — pro sběr dat z webu provozuji vlastní infrastrukturu s LTE modemy.
Nejraději pracuji na systémech, kde rozhoduje spolehlivost a ekonomika provozu: inference velkých jazykových modelů, datové pipeline, integrace a agentní systémy. Kód píšu sám a věci dotahuji do produkce. Vedle vlastních produktů beru vybrané projekty.