Human-in-the-loop ja human-on-the-loop: kuidas AI-agente päriselt kontrolli all hoida

Gartner prognoosib, et 2026. aasta lõpuks sisaldab 40% ettevõtete rakendustest ülesandepõhiseid AI-agente — veel 2025. aastal oli see number alla 5% — ja 2028. aastaks tehakse 15% igapäevastest tööotsustest autonoomselt. Sama Gartner ütleb aga ka teise poole: üle 40% agentic AI projektidest tühistatakse 2027. aasta lõpuks, peamiselt ebaselge äriväärtuse ja puuduliku riskijuhtimise tõttu.

Mis eristab õnnestujaid tühistajatest? Meie kogemuse järgi klientide agentsete töövoogude seadistamisel on vastus peaaegu alati sama: **kontrollpunktide disain** — see, kus täpselt asub inimene agendi töövoos. Sellel disainiotsusel on nimi ja raamistik: *human-in-the-loop* ja *human-on-the-loop*. Selles postituses võtame selle raamistiku põhjalikult lahti — alates sellest, mis agent üldse on.

## Mis on AI-agent? (Ja mille poolest ta erineb vestlusrobotist?)

Kõige lihtsam definitsioon: **vestlusrobot vastab küsimustele, agent täidab eesmärki.** ChatGPT-lt võid küsida "kirjuta mulle pakkumise mustand" ja saad teksti. Agent seevastu võtab eesmärgi ("valmista ette pakkumine kliendile X"), loeb ise CRM-ist kliendi ajaloo, vaatab hinnakirja, koostab dokumendi, salvestab selle õigesse kausta ja annab sulle teada, et töö ootab kinnitamist. Vahe on kolmes asjas:

- **Tööriistakasutus.** Agent ei tooda ainult teksti — ta kasutab süsteeme: e-posti, kalendrit, CRM-i, faile, brauserit, andmebaase.
- **Mitmesammulisus.** Agent planeerib ja täidab sammude jada, kontrollides vahepeal ise oma tööd, selle asemel et anda üks vastus ühele küsimusele.
- **Otsustusruum.** Agendile antakse volituste piirid, mille sees ta ise otsustab, kuidas eesmärgini jõuda.

See ei ole enam tuleviku kontseptsioon — 2025.-2026. aastal jõudsid agendid päris toodetesse, mida iga ettevõte saab täna kasutada:

**ChatGPT Agent** (OpenAI, juuli 2025) ühendas ühte režiimi veebibrauseri juhtimise, süvauuringu ja koodi käivitamise agendi enda virtuaalarvutis. Agent oskab veebilehti sirvida, vorme täita, andmeid analüüsida ning esitlusi ja tabeleid koostada — ja küsib enne tagajärgedega samme kasutajalt luba. Tänaseks on see tavalises vestluses sisse lülitatav "agent mode". 2026. aasta juulis lisas OpenAI ärikontodele **Workspace agents** — nimelised, tiimiga jagatavad agendid, millel on määratud tööriistad, mälu, ajakava ja halduskontrollid, sealhulgas automaatne kõrgema riskiga tegevuste ülevaatus.

**Claude Cowork** (Anthropic, jaanuar 2026) tõi agentse töö mitte-tehnilisele kasutajale: annad Claude'ile ligipääsu oma arvuti kaustale ja ta loeb, loob ja muudab faile, täidab ülesannete nimekirju ning teeb mitut tööd paralleelselt — kviitungitest kuluaruande koostamine, märkmetest raporti kirjutamine, failide korrastamine. Arendajatele on sama loogika olnud saadaval **Claude Code'is**, mis töötab terminalis ja viib koodimuudatused ise lõpuni.

Adoptsioon liigub kiiresti: ChatGPT-l on umbes 900 miljonit iganädalast kasutajat ja üle miljoni ärikliendi ning OpenAI enda andmetel kasutab nende tooteid 92% Fortune 500 ettevõtetest.

> "Usume, et 2025. aastal näeme esimesi AI-agente 'tööjõuga liitumas' ja ettevõtete väljundit oluliselt muutmas." — Sam Altman, OpenAI tegevjuht, jaanuar 2025

Altmani ennustus täitus ainult osaliselt — kommentaatorid on õigusega märkinud, et agendid andsid 2025. aastal lubatust vähem. Aga just see ongi meie postituse point: tehnoloogia oli olemas, juhtimine mitte. Agent ilma kontrollsüsteemita ei jõua kunagi demo-faasist kaugemale.

## Miks kontrollpunktid otsustavad kõik?

Agentide juurutamisel on kaks äärmusesse kalduvat viga, mida näeme klientide juures pidevalt.

**Viga 1: "Inimene kinnitab kõike."** Kui iga agendi samm vajab kinnitust, muutub agent kalliks mustandigeneraatoriks, mille ajavõit kaob kinnituste ootejärjekorda. Müügijuht, kes peab kinnitama 60 mustandit päevas, lõpetab kummitembeldamisega — ja siis pole kontrollil enam sisu.

**Viga 2: "Agent teeb kõike ise."** Esimene tõsine viga — vale hinnaga pakkumine, ebaviisakas kiri võtmekliendile, kustutatud andmed — jõuab kliendini, juhtkond kaotab usalduse ja projekt tapetakse. Gartneri 40% tühistamisstatistika elab suuresti siin.

Õige vastus on astmeline kontroll, mida rahvusvahelises praktikas kirjeldatakse kolme režiimina.

> "Suunda, kuhu see liigub, usume kindlalt: suured agentide populatsioonid kusagil pilves, mida meie — inimesed, tiimid, organisatsioonid — superviseerime ja suuname, et luua suurt majanduslikku väärtust." — Thibault Sottiaux, OpenAI Codexi juhtivinsener, september 2025

Pane tähele sõna *superviseerime*. Ka kõige agressiivsemad agentide ehitajad ei räägi järelevalveta autonoomiast — nad räägivad juhtimismudelist.

## Kolm režiimi: in-the-loop, on-the-loop, autonoomne


### Human-in-the-loop (HITL): inimene kinnitab enne täitmist

Agent valmistab otsuse ette, inimene kinnitab enne, kui midagi päriselt juhtub. Iga väljund läbib inimese käe. See on rangeim ja kalleim režiim — ning ainuõige kõiges, mis on **pöördumatu või kliendile nähtav**: pakkumised, lepingud, hinnamuudatused, maksed, avalik kommunikatsioon, personaliotsused.

Näide meie klientide praktikast: müügiagent loeb CRM-ist kliendi konteksti, vaatab hinnakirja ja varasemaid pakkumisi, koostab pakkumuse mustandi ja paneb selle kinnitusjärjekorda. Müügijuht kinnitab ühe klikiga või saadab kommentaariga tagasi. Tsükliaeg lühenes 45 minutilt umbes 8 minutile — aga ükski pakkumine ei lahku majast ilma inimese otsuseta. Sama loogikat kasutab muide ka ChatGPT Agent ise: enne "tagajärgedega" tegevusi (ostud, saatmised) küsib ta kasutajalt luba. See ei ole juhus — see on tootedisaini tasemel human-in-the-loop.

### Human-on-the-loop (HOTL): inimene jälgib ja võib sekkuda

Agent tegutseb ise, inimene jälgib ülevaatepaneeli, näeb logisid ja eskalatsioone ning võib igal hetkel töövoo peatada. Kinnitust iga sammu kohta ei küsita. Sobib protsessidele, mis on **pöörduvad ja mille vearisk on keskmine**: sisemised raportid, koosolekute kokkuvõtted, andmete rikastamine, sisemised teavitused.

Näide: raporteerimisagent koostab igal esmaspäeval juhtkonna ülevaate müügi-, turundus- ja finantsandmetest ja saadab selle ise välja. Juht ei kinnita iga raportit — aga näeb koondvaadet, anomaaliaid ja saab agendi ühe nupuvajutusega peatada. OpenAI Workspace agents teeb sama loogika tooteks: administraator määrab, millised tegevused vajavad "Auto-review" kontrolli ja millised mitte.

### Autonoomne (out-of-the-loop): agent tegutseb üksi

Agent tegutseb täiesti iseseisvalt, inimest teavitatakse ainult eranditest. Lubame seda **ainult madala riskiga pöörduvates rutiinides**, kus iga tegevus on logitud ja ühe klikiga tagasipööratav: CRM-i väljade korrastus, failide liigitamine, duplikaatide märgistamine.

Reegel, mille anname igale kliendile kaasa: **kui agendi viga ei saa ühe klikiga tagasi võtta, ei tohi agent seda üksi teha.**

## Kuidas otsustada, milline režiim millisele protsessile?

Kasutame klientide juures kahe küsimuse maatriksit:

1. **Kas tegevus on pöörduv?** Kui agendi viga saab tagasi võtta (mustand, sisemine kirje, ettepanek), võib kontrolli lõdvendada. Kui ei saa (saadetud kiri, tehtud makse, muudetud leping, kustutatud fail) — alati in-the-loop.
2. **Kui suur on vea mõju?** Kliendile nähtav või rahaline mõju → in-the-loop. Sisemine ja parandatav → on-the-loop. Tühine → autonoomne.

Sellele lisandub kolmas, ajaline mõõde — **usaldusastme reegel**: iga agent alustab rangeimas režiimis. Kui 3-4 nädala statistika näitab, et 90%+ väljunditest läheb muutmata kinnitusele, tõstame protsessi järgmisse astmesse: in-the-loop muutub on-the-loop'iks, valitud rutiinid autonoomseks. Nii teenib agent usalduse välja andmetega, mitte lubadustega. Ja see töötab ka vastupidi: kui andmed, protsess või regulatsioon muutub, liigub agent astme võrra tagasi.

## Agendi tööprotsess kontrollpunktiga: viis sammu


Töövoo anatoomia, mille järgi agente ehitame — olgu platvormiks Make, n8n, Claude Projects, custom GPT-d või Workspace agents:

**1. Sisend.** E-kiri, veebivorm, CRM-i sündmus, dokumendi saabumine või ajastatud käivitus. Hea disain piirab juba siin: agent reageerib ainult kokkulepitud sisenditele, mitte kõigele.

**2. Analüüs.** Agent loeb konteksti ja ettevõtte teadmusbaasi — tooted, hinnad, reeglid, varasemad juhtumid. See samm on hallutsinatsioonide vastane kaitse: agent, kes peab tsiteerima allikat (CRM-i kirjet, hinnakirja, lepingut), ei saa "peast rääkida". Kui teadmusbaasis vastust pole, on õige käitumine eskaleerida, mitte improviseerida.

**3. Riskikontroll.** Reeglid otsustavad: kas see juhtum mahub agendi volitustesse? Siin töötavad läved: summa üle X eskaleerub alati; uus klient eskaleerub; kui agendi enda kindlusaste jääb alla kokkulepitud taseme, eskaleerub. Eskaleerimine tähendab, et juhtum liigub inimesele **koos kogu kontekstiga** — agent ei ütle "ei saanud hakkama", vaid "siin on juhtum, minu analüüs ja kaks võimalikku vastust, vali".

**4. Kinnitus või täitmine.** Vastavalt režiimile: in-the-loop juhtumid lähevad kinnitusjärjekorda, on-the-loop ja autonoomsed täituvad kohe.

**5. Auditilogi.** Iga otsus, sisend, väljund ja eskalatsioon on logitud. See pole bürokraatia, vaid kolme praktilise küsimuse vastus: *miks agent nii otsustas* (kvaliteedi parandamine), *kes vastutab* (juhtimine) ja *kuidas me seda tõendame* (EU AI Act nõuab kõrge riskiga süsteemidelt inimjärelevalvet ja meie ehitame logid nii, et see nõue on täidetud juba enne, kui regulatsioon seda küsib).

## Kinnituskoormus tuleb disainida — mitte lihtsalt tekitada

Kõige sagedasem põhjus, miks in-the-loop režiim praktikas laguneb, on kinnituskoormuse ignoreerimine. Kui inimene peab kinnitama kümneid ühesuguseid asju päevas, tekib "kinnitusväsimus" — kõik kinnitatakse lugemata ja kontroll muutub illusiooniks. Meie disainireeglid:

- **Grupeeri.** Agent esitab kinnitamiseks partiid, mitte üksikjuhtumeid — "8 pakkumist, neist 2 erandiga".
- **Prioriseeri erandid.** Standardjuhtumid ühe klikiga, erandid esile tõstetud koos põhjendusega, miks need erandid on.
- **Näita muudatusi, mitte kogu dokumenti.** Kinnitaja näeb, mida agent muutis või mille alusel otsustas — mitte 4-leheküljelist dokumenti nullist.
- **Mõõda kinnituste kvaliteeti.** Kui 98% kinnitustest läheb läbi 5 sekundiga, on see signaal: kas tõsta protsess on-the-loop režiimi või muuta seda, mida kinnitamiseks esitatakse.

## Kolm praktilist õppetundi meie projektidest

**Eskalatsioon on funktsioon, mitte ebaõnnestumine.** Hea agent teab, mida ta ei tea. Kui klienditoe agent kohtab küsimust väljaspool teadmusbaasi, on õige käitumine suunata see inimesele koos kontekstiga. Agendi kvaliteeti ei mõõda see, kui harva ta eskaleerib, vaid see, kui täpselt ta eskaleerib õigeid asju.

**Volituste piirid pannakse kirja enne esimest käivitust.** Mida agent tohib lugeda, mida kirjutada, mida saata, millise summani, millistele adressaatidele. Kirjapanemata piirid tähendavad, et piiriks on mudeli suva.

**Režiimide ülevaatus on rutiin.** Kontrollirežiimid vaadatakse üle igakuises AI-juhtimise rütmis, mille ehitame ISO/IEC 42001 loogika järgi: mis on muutunud andmetes, protsessis, riskides? Kas mõni agent on usalduse välja teeninud? Kas mõni vajab tagasitõmbamist?

> "AI-agendid on uus digitaalne tööjõud. Iga ettevõtte IT-osakonnast saab tulevikus AI-agentide personaliosakond." — Jensen Huang, NVIDIA tegevjuht, CES 2025

Huangi metafoor on täpsem, kui esmapilgul paistab: agente tuleb "värvata" (valida ja seadistada), "koolitada" (teadmusbaas ja juhised), neile tuleb anda ametijuhend (volituste piirid), neid tuleb hinnata (mõõdikud ja logid) ja vahel ka "vallandada" (välja lülitada). Täpselt seda me human-in-the-loop raamistikuga teemegi.

## Agendi anatoomia: kolm komponenti, mida juhtida saab

Et kontrollpunkte targalt paigutada, tasub mõista, millest agent üldse koosneb. Iga agentne süsteem — olgu see ChatGPT Agent, Claude Cowork või teie enda n8n-i töövoog — koosneb kolmest juhitavast komponendist:

**Mudel ehk "aju".** Keelemudel (GPT-5, Claude, Gemini), mis mõistab konteksti ja teeb otsuseid. Mudelit te ei treeni — aga te valite selle ülesande keerukuse ja andmete tundlikkuse järgi. Meie rusikareegel: mida suurem otsustusruum agendil on, seda võimekam peab olema mudel; rutiinse liigituse jaoks pole vaja tippmudelit, mitmesammulise analüüsi jaoks küll.

**Tööriistad ehk "käed".** Ligipääsud, mille kaudu agent tegutseb: e-post, kalender, CRM, failid, brauser, andmebaasid, API-d. See on kõige olulisem turvahoob: agent, kellel pole ligipääsu maksesüsteemile, ei saa teha makseviga. Volituste piiramine tööriistade tasemel on tugevam kaitse kui ükski juhis, sest juhist saab mudel valesti tõlgendada, puuduvat ligipääsu mitte.

**Juhised ja mälu ehk "ametijuhend".** Süsteemiprompt, teadmusbaas ja reeglid: mis on agendi roll, millised on lubatud tegevused, millal eskaleerida, kuidas vormistada väljund. Siia kuulub ka mälu — mida agent varasematest juhtumitest teab. Hea ametijuhend on konkreetne ("kui pakkumise summa ületab 10 000 €, eskaleeri müügijuhile koos põhjendusega"), mitte üldsõnaline ("ole ettevaatlik").

Kontrollpunktid on nende kolme komponendi *ristumiskohas*: mudel otsustab, tööriistad piiravad, juhised suunavad — ja inimene kinnitab seal, kus need kolm kokku ei kata.

## Neli tüüpilist ettevõtte agenti ja nende õiged režiimid

Kuidas raamistik igapäevaelus välja näeb? Neli agenditüüpi, mida klientide juures kõige sagedamini ehitame, koos soovitatava kontrollirežiimiga:

**Müügiagent (pakkumused, järeltegevused) — human-in-the-loop.** Loeb CRM-i, koostab pakkumuse ja järelkirjade mustandid, ajastab meeldetuletused. Kliendile nähtav ja rahalise mõjuga → iga väljund läbib müügijuhi kinnituse. Tüüpiline võit: pakkumuse tsükliaeg -40...70%.

**Klienditoe agent (esmavastused) — algul in-the-loop, hiljem hübriid.** Loeb päringu, otsib teadmusbaasist vastuse, koostab mustandi. Esimesed nädalad kinnitab inimene kõik; kui statistika näitab stabiilset kvaliteeti, lähevad standardküsimused (tarneaeg, hinnad, korduma kippuvad teemad) automaatseks ja erandid jäävad inimesele. Tüüpiline võit: esimese vastuse aeg tundidelt minutitele.

**Raporteerimisagent (ülevaated, kokkuvõtted) — human-on-the-loop.** Kogub andmed, koostab ja saadab sisemised raportid ise; juht näeb koondpaneeli ja anomaaliaid. Sisemine ja pöörduv → kinnitust pole vaja, jälgimist küll. Tüüpiline võit: 4-6 tundi juhi aega nädalas.

**Andmehooldusagent (CRM-i korrastus, liigitus) — autonoomne.** Korrastab välju, märgistab duplikaate, liigitab faile. Iga muudatus logitud ja tagasipööratav → tohib töötada üksi. Tüüpiline võit: andmekvaliteet, mida keegi kunagi "käsitsi ette ei võtnud".

Pane tähele mustrit: **mida lähemale kliendile ja rahale, seda rohkem inimest.** See ei ole ettevaatlikkus ettevaatlikkuse pärast — see on põhjus, miks need agendid elavad kauem kui demo.

## EU AI Act ja inimjärelevalve: mida seadus päriselt nõuab?

Euroopa AI-määrus teeb inimjärelevalvest õigusliku nõude, mitte hea tava. Ajajoon on juhi jaoks oluline kolmes punktis. Alates **2025. aasta veebruarist** kehtivad keelatud praktikate sätted ja artikkel 4 — AI-kirjaoskuse nõue: iga AI-d kasutav organisatsioon peab tagama, et töötajad mõistavad kasutatavate süsteemide võimalusi ja riske. Alates **2025. aasta augustist** kehtivad üldotstarbeliste mudelite (GPAI) kohustused. Kõrge riskiga süsteemide põhikohustused — sealhulgas artikli 14 inimjärelevalve nõue, et süsteemi peab saama tõhusalt jälgida, katkestada ja tühistada — lükkusid 2026. aasta Digital Omnibusega **2027. aasta detsembrisse**.

Praktiline järeldus: enamik ettevõtte agente ei ole "kõrge riskiga" määruse mõttes (need kategooriad puudutavad nt värbamist, krediidiotsuseid, biomeetriat). Aga inimjärelevalve arhitektuur — logid, eskalatsioonid, peatamisnupp — tasub ehitada kõigile agentidele juba täna. Esiteks sellepärast, et see on hea juhtimine sõltumata seadusest. Teiseks: kui mõni teie kasutusjuht hiljem kõrge riski kategooriasse liigub, on vastavus juba olemas, mitte tagantjärele ehitatav.

## Mõõdikud: kuidas teada, et kontrollisüsteem töötab?

Kontrollirežiimid ilma mõõtmiseta on tunde küsimus. Neli näitajat, mida iga agendi juures igakuiselt jälgime:

- **Muutmata kinnituste osakaal.** Kui suur osa agendi väljunditest läheb kinnitusest läbi ilma paranduseta? Alla 70% — agendi juhised või teadmusbaas vajavad tööd. Üle 90% stabiilselt — kandidaat järgmisse kontrolliastmesse.
- **Eskalatsioonide arv ja täpsus.** Kui palju juhtumeid agent inimesele suunab ja kui suur osa neist *päriselt* vajas inimest? Liiga vähe eskalatsioone on ohtlikum kui liiga palju — see tähendab, et agent improviseerib piiridel.
- **Kinnituse latentsus.** Kui kaua väljundid kinnitusjärjekorras seisavad? Kui pakkumine ootab kinnitust kauem, kui varem võttis selle koostamine, on kinnituskoormus disainimata ja ajavõit kadunud.
- **Vigade jõudmine lõppkasutajani.** Ainus number, mis peab olema null kliendile nähtavates protsessides. Iga erand käivitab ülevaatuse: kas viga tekkis mudelis, juhistes, andmetes või kontrollpunktis?

Need neli numbrit mahuvad ühele töölauale ja annavad juhtkonnale vastuse küsimusele, mida iga agendiprojekti kohta lõpuks küsitakse: *kas me võime seda usaldada?* Vastus ei ole "jah, sest tehnoloogia on hea", vaid "jah, sest andmed näitavad seda — ja kui ei näita, näeme seda esimesena".

## Korduma kippuvad küsimused

**Kas human-in-the-loop ei tee agenti mõttetuks — inimene teeb ju ikkagi tööd?** Ei. Kinnitamine võtab sekundeid, ettevalmistus võttis tunde. Kui müügijuht kinnitab 8 minutiga pakkumise, mille ettevalmistus varem võttis 45 minutit, on 37 minutit võidetud — ja kvaliteedikontroll säilinud. Mõttetuks muutub agent siis, kui kinnituskoormus on disainimata.

**Millal võib agendi täiesti autonoomseks lasta?** Kui kolm tingimust on korraga täidetud: tegevus on pöörduv, vea mõju on tühine ja 3-4 nädala andmed näitavad stabiilset kvaliteeti. Kui kasvõi üks puudub, hoia inimene ringis sees või ringi peal.

**Kas need režiimid kehtivad ka valmistoodete (ChatGPT Agent, Claude Cowork) kasutamisel?** Jah — ja suuresti on need juba sisse ehitatud: ChatGPT Agent küsib enne tagajärgedega samme luba, Cowork töötab sinu antud kausta piires ja OpenAI Workspace agents lisab administraatori kontrollid. Teie ülesanne on otsustada, millised tööd üldse agendile anda ja millised load talle avada — see ongi sama riskimaatriks.

## Kust alustada?

Kui tahad agentide loogika ise selgeks saada ja need töövood oma käega läbi ehitada, vaata meie [AI-agentide programmi](/programmid/ai-agentide-programm) — seal käime kogu selle raamistiku praktiliselt läbi, n8n-i, Make'i, custom GPT-de ja Claude'i keskkondade peal. Kui tahad, et seadistaksime agentsed töövood teie ettevõttes võtmed-kätte, alusta [AI-arenduste](/teenused/ai-arendused) lehelt. Laiema strateegilise tausta annavad postitused [AI agentide juurutamine ettevõttes](/kasulik-ai/ai-agentide-juurutamine) ja [Human-Centred AI Integration Model](/kasulik-ai/human-centred-ai-integration-model), mille üks neljast mõõtmest see kontrolliraamistik ongi.

## Allikad

- [OpenAI: Introducing ChatGPT agent](https://openai.com/index/introducing-chatgpt-agent/)
- [OpenAI: Introducing Workspace agents in ChatGPT](https://openai.com/index/introducing-workspace-agents-in-chatgpt/)
- [Anthropic: Claude Cowork](https://support.claude.com/en/articles/14128542-let-claude-use-your-computer-in-cowork)
- [Gartner: 40% of enterprise apps will feature task-specific AI agents by 2026](https://www.gartner.com/en/newsroom/press-releases/2025-08-26-gartner-predicts-40-percent-of-enterprise-apps-will-feature-task-specific-ai-agents-by-2026-up-from-less-than-5-percent-in-2025)
- [Gartner: Over 40% of agentic AI projects will be canceled by end of 2027](https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027)
- [Sam Altman: Reflections](https://blog.samaltman.com/reflections)
- [Business Insider: OpenAI on supervising cloud agents](https://www.businessinsider.com/openai-foresees-millions-ai-agents-running-on-cloud-gpt5-codex-2025-9)
- [CNBC: Jensen Huang on AI and jobs](https://www.cnbc.com/2025/05/28/nvidia-ceo-jensen-huang-youll-lose-your-job-to-somebody-who-uses-ai.html)
- [EU AI Act rakendamise ajajoon](https://artificialintelligenceact.eu/implementation-timeline/)