AI Act a hlasový asistent: čo musí firma s AI recepčnou splniť
Nariadenie EÚ o umelej inteligencii, známe ako AI Act, rozdeľuje AI systémy podľa rizika. Pre firmu, ktorá používa AI recepčnú na objednávanie zákazníkov, je dobrá správa, že bežná telefonická asistentka nepatrí medzi vysokorizikové systémy. Niekoľko vecí je však dobré vedieť.
Článok je zjednodušený prehľad, nie právne poradenstvo. Povinnosti z AI Actu sa uplatňujú postupne, preto si aktuálny stav overte, ak vaše použitie AI presahuje bežné objednávanie.
Hlavná povinnosť: povedať, že ide o AI
AI Act vyžaduje, aby človek vedel, že komunikuje s umelou inteligenciou, ak to nie je zrejmé z okolností. Pri telefóne to zrejmé nie je, lebo AI hovorí prirodzene. Riešenie je jednoduché: AI recepčná sa na začiatku hovoru predstaví ako virtuálna asistentka.
Z našej skúsenosti to zákazníkom neprekáža. Dôležitejšie je pre nich, že sa dovolajú a vybavia, čo potrebujú.
Do akej kategórie patrí AI recepčná
AI Act rozlišuje zakázané praktiky, vysokorizikové systémy, systémy s povinnosťou transparentnosti a ostatné. Telefonická asistentka, ktorá objednáva termíny a odpovedá na otázky o otváracích hodinách, spadá do kategórie s povinnosťou transparentnosti.
Pozornejší treba byť, ak by AI rozhodovala o veciach so zásadným dopadom na ľudí, napríklad o prístupe k zdravotnej starostlivosti alebo o úveroch. Preto AI recepčná pri ambulanciách len objednáva a akútne prípady odovzdáva človeku.
Čo AI Act znamená v praxi
AI Act a GDPR idú ruka v ruke
AI Act nerieši ochranu osobných údajov. Tú stále upravuje GDPR. Preto platí aj všetko o informovaní volajúceho, zmluve so sprostredkovateľom a spracúvaní v EÚ. Viac v našom článku o AI recepčnej a GDPR.
Záver
Pre malú firmu znamená AI Act pri AI recepčnej hlavne jedno: byť férový k zákazníkovi a povedať mu, že hovorí s AI. Callora takto nastavuje každú AI recepčnú od začiatku.
