Podklady ke konzultaci · 9. 7. 2026

Avessa × IT4Innovations
AI Factory Hub

Navazuje na seznamovací hovor (Tereza Malíková, Matěj). Téma dneška: výpočetní čas a optimalizace produktu.

Stojíme na křižovatce mezi dvěma architekturami hlasového bota a ani jedna není bez zásadního kompromisu. Chceme poradit, kterou cestou se vydat — a jestli nám v tom může pomoct váš výpočetní výkon.
01

Co je Avessa

AI recepční pro příchozí telefonáty. Zvedne hovor, mluví česky, vyřídí rezervaci nebo dotaz, případně předá člověku. Cílíme na restaurace, ordinace a státní správu — místa, kde se dnes nedovoláte.

MVP máme hotové; připravujeme nasazení do sítě 5 restaurací v ČR s partnerem. Výhled: německé pobočky klientů (→ vícejazyčnost) a zdravotnictví, až vyřešíme právní otázky.

Tým: 2 lidé s.r.o. od 05/2026 Pilot: síť 5 restaurací Jazyky: CS, výhledově EN/DE
02

Jak jsme se sem dostali

09/2025
Start projektu, první prototyp.
03/2026
Vlastní engine od nuly — skládaná pipeline (přepis řeči → jazykový model → syntéza hlasu) + telefonie. Funguje, ale detekce střídání mluvčích (VAD) pro češtinu je nespolehlivá a jeden server neuškáluje.
05/2026
Přechod na LiveKit — open-source framework pro real-time hlasové agenty (audio infrastruktura, telefonie a škálování za nás). Realtime model Gemini vyřešil turn-taking, ale přinesl nový problém: závislost na Googlu a žádná kontrola nad hlasy.
Teď
Rozhodujeme, kudy dál — viz dilema v sekci 04. Přesně tohle chceme konzultovat.
03

Technologie a architektura

Volajícítelefon
Twiliotelefonie / SIP
LiveKitreal-time audio vrstva
Voice enginenáš worker (TypeScript)
Web adminReact + Vite
APIHono (REST)
PostgreSQLDrizzle ORM
konfigurace agentů,
záznamy hovorůčte voice engine
Nahoře hlasová cesta hovoru, dole správa a data.
VrstvaTechnologie
Jazyk & runtimeTypeScript / Node.js, pnpm monorepo (Turborepo)
Voice engineLiveKit Agents (TS worker), Silero VAD, vlastní workflow kompilátor
AI modelyGoogle Gemini Live (realtime řeč↔řeč), Deepgram Nova-3 (přepis, čeština), ElevenLabs (syntéza hlasu), OpenRouter/OpenAI (jazykové modely)
TelefonieTwilio (čísla + media streams)
Web & APIReact, Vite, TanStack Router, Tailwind · Hono REST API, JWT auth
DataPostgreSQL + Drizzle ORM
Infra & provozRender (hosting), LiveKit Cloud (Frankfurt), Sentry (chyby), Cloudflare R2 (nahrávky — v plánu)
Kredity, které máme k dispoziciStav
Render (hosting)využíváme
Cloudflarevelký objem — nevíme, jak využít
AWS ($1 000)plán: self-host voice infrastruktury
Google, Deepgram, OpenRouter, Sentryprůběžně na AI modely a provoz
04

Dilema dvou cest — jádro konzultace

Obě architektury máme postavené a funkční. Každá selhává jinde.

Cesta A · Cascade
Přepis řečiDeepgram
Jazykový modellibovolný
Syntéza hlasuElevenLabs…
  • +Plná kontrola: libovolný hlas, přízvuk, dodavatel každé komponenty
  • +Žádný lock-in — komponenty vyměníme nezávisle
  • +Levnější a predikovatelnější provoz
  • VAD / detekce konce promluvy pro češtinu funguje blbě — bot reaguje pozdě nebo v nesprávnou chvíli; hotové detektory češtinu neumí
Cesta B · Realtime (řeč ↔ řeč)
Jeden model slyší i mluvíGoogle Gemini Live
  • +Turn-taking funguje výrazně lépe — model přirozeně pozná, kdy člověk domluvil, i v češtině
  • +Nižší latence, přirozenější konverzace
  • Lock-in na Google — jediný dodavatel, preview bez garancí
  • Nemůžeme měnit hlasy a přízvuky — bereme, co model nabízí; pro klienty chceme volitelné hlasy
Otázka na vás: Jak z toho ven? Dá se cascade dotáhnout vlastním modelem pro detekci konce promluvy (a tím získat kontrolu nad hlasy bez lock-inu)? Nebo jít realtime a hlasy řešit jinak? Nebo hybrid? Kudy byste šli vy?
05

Co nás bolí (kromě dilematu)

  1. Česká jména. Přepis řeči na jménech selhává — a rezervace bez správného jména je k ničemu.
  2. Vícejazyčnost. Velký potenciální klient potřebuje CS/EN/DE — bot musí rozpoznat jazyk během hovoru a plynule přepnout.
  3. Spolehlivost > chytrost. Nepotřebujeme geniální model — potřebujeme, aby bot dělal přesně to, co má, po definované cestě konverzace. Klidně malý model vyladěný na přesný skript.
  4. Kvalita českého hlasu (TTS). Neexistují nezávislá srovnání — dodavatele hlasu vybíráme naslepo.
06

Výpočetní čas — upřímně nevíme, k čemu by nám byl

A přesně proto jsme tady. Níže jsou naše hypotézy — chceme slyšet, co z toho je reálné, co naivní, a co nás nenapadlo.

Praktické otázky k výkonu: Který z těchto směrů (pokud vůbec nějaký) dává smysl jako žádost o Playground (5 000 GPU hodin)? A LUMI běží na AMD, zatímco běžné ML nástroje jsou stavěné na NVIDIA — co poběží, co ne, máte i NVIDIA kapacity?
07

Checklist otázek na call

Odškrtávat během hovoru. Priorita shora dolů.