Jak používat hlasové nástroje AI k zabránění podvodu


Záběr obrázku: Zapp2Photo / Shutterstock

Zatímco hlasové nástroje AI mohou podnikům usnadnit zastavení podvodů s kreditními kartami, tato nová technologie by mohla představovat i nová rizika.

AI, které může absolvovat test Turingu, bylo pro některé vědce počítačů něco svatého grálu, protože matematik Alan Turing vyvinul test, aby zjistil, zda počítač používá jazyk dostatečně dobře, aby se mýlil s člověkem. V roce 2018 společnost Google ukázala, že její zástupce na bázi duplexu AI může prostřednictvím telefonu s reálnými lidmi rezervovat telefonické schůzky a rezervace restaurací po telefonu. Veřejná reakce se pohybovala od impresionovaných až po skeptičtí až téměř panikáří, protože pozorovatelé a vědci v průmyslu spekulovali o možných aplikacích pro hlasový AI, který zní opravdu lidsky. Jedním z možných použití je lepší prevence podvodů. Stejná technologie by však mohla ještě zhoršit podvody. Zde je to, co majitelé malých firem by měli vědět o tom, co AI může udělat pro vás, jaké nové generace AI mohou být schopny a jak bezpečně používat AI pro podnikání.

Existuje nějaká debata v komunitě vědců o tom, zda Google Duplex otevírá dveře k složitějším a nejrozsáhlejším aplikacím AI, které projdou zkouškou Turingu a zda se tyto pokroky mohou stát brzy. Bez ohledu na to by dokonce i aplikace jako duplex, které mají úzkou oblast, mohly nakonec změnit způsob, jakým jsou spravovány platební podvody online. Definujícím prvkem pravděpodobně nebude technologie samotná, ale záměr lidí, kteří ji používají.

Jak AI, který projde testem Turing, může pomoci předejít podvodům

Lidé mohou chatovat, textovat a mluvit v telefonu pomocí robotů, ale konverzace, stejně jako v případě služby Google Duplex, mají omezený rozsah. Je také snadné házet dnešní roboty zákaznických služeb mimo dráhu s nečekanou otázkou nebo těžkým přízvukem. Ale pokud zákaznický servis AI – zejména hlas AI – nakonec převezme test Turingu mimo velmi úzký rozsah, který společnost Google učinila, tato technologie by mohla podnikům usnadnit zastavit podvody s kreditními kartami tím, že převezme některé náročné, ale zásadní telefonické konverzace.

Právě teď jsou podvody s kreditními kartami online (karta, která není přítomna, nebo podvod, CNP) narůstající problém pro podniky všech velikostí, zčásti proto, že tolik zločinců má přístup k porušovaným údajům pro spotřebitele. Existují dva způsoby, jak mohou společnosti zpracovávat online objednávky, které – po analýze řady faktorů, jako je dodací adresa, umístění IP, historie nákupů a další – se zdají být podvodné, ale nemusí být.

První možností je jednoduše odmítnout tyto objednávky. Problémem s tímto přístupem je, že pokud objednávka nebyla podvodem, odmítnutý zákazník by mohl být tak frustrovaný, rozpačitý nebo naštvaný, že nikdy se společností znovu nakupovat. To je běžný a nákladný problém. V roce 2016 obchodníci ztratili více než 2 miliardy dolarů na tyto falešné poklesy řádných objednávek, než na skutečné podvody s CNP.

Druhou možností je ruční kontrola každé podezřelé objednávky. V některých případech musí recenzenti podvodu volat zákazníka, aby se ujistil, že skutečně učinil nákup. Tyto hlasové konverzace vyžadují schopnost shromažďovat informace bez zdanlivého obvinění a vyžadují od firemních zdrojů, aby volaly ve vhodnou dobu pro zákazníky bez ohledu na to, na jaké části světa se nacházejí.

Protože manuální kontrola je náročná na zdroje, ne všechny společnosti si to mohou dovolit. Jiní se snaží, ale zjistí, že proces zastavuje proces schvalování objednávky během prázdnin a dalších zaneprázdněných období. Nástroje hlasového AI, které projdou zkouškou Turingu, by mohly převzít některé z těchto pracovních úloh a s dostatečným množstvím dat přiváděnými do systému se možná stanou lepšími než lidé při pozorování jemných slovních stop, které naznačují podvod. Mezitím může outsourcing poskytovatelům ručního prověřování třetí stranou snížit zatížení podniků.

Jak mohou podvodníci využít AI, který projde testem Turingu

Samozřejmě, takový pokročilý hlasový AI by mohl být také využíván zločinci, kteří se chtějí účinněji potýkat s podvody. Jak napsal David Gerwitz, odborník na bezpečnost počítačové bezpečnosti, krátce po demonstraci hlasové AI společnosti Google, pokročilejší verze této technologie by mohly být používány k vydírání lidí po telefonu. Hlasová inteligence, která projde testem Turingu, by mohla teoreticky předstírat, že spotřebitelé volají po objednávkách, zástupci zákaznických služeb, kteří volají s otázkami nebo konkrétními jednotlivci, jako jsou politici, kteří se domnívají, že požadují dary.

Systémy inteligentní inteligence mohou být také podvedeny začleněním vizuálních nebo zvukových zpráv, které činí neuronovou síť, že si myslí, že se jedná o opak toho, co vidí nebo slyší, a to i přesto, že se lidem zdá normální. Výzkumní pracovníci již ukázali, že mohou vkládání instrukcí do hlasových asistentů v zvukových souborech, které lidé nemohou rozpoznat. V jednom případě audio zprávy obsahovaly "tiché" pokyny pro vypnutí poplašného systému a odemknutí předních dveří. Představte si, že tento druh útoku směřuje k zákaznickému servisu AI zaměřenému na elektronické obchodování, aby se předešlo kontrole podvodů a nasazovalo se v měřítku.

Všechno se vrátí k lidem

Tyto scénáře jsou prozatím hluboce vyčerpány, avšak v prevenci proti kybernezi a podvodům je to, že každý nový postup přináší nová rizika. Není důvod věřit, že hlasové systémy AI, které projdou zkouškou Turingu, budou jiné. To znamená, že když firmy mohou konečně využít Turingova testu, aby se ochránili před podvodem, budou muset také vyvinout záruky, aby zabránili zločincům, kteří chtějí proti nim využívat tuto pokročilou technologii.

Co mohou malé firmy udělat, aby získaly výhody dnešní AI, aniž by vznikly zbytečné riziko?

Nejprve pochopte, co mohou současné nástroje AI udělat. Zařízení hlasových asistentů, chatboty zákaznických služeb a algoritmy pro předcházení podvodům jsou výkonnými nástroji, které vám mohou ušetřit čas i peníze, pokud je spojujete s lidským dohledem, abyste zabránili porušení, špatnému zákaznickému servisu nebo falešnému poklesu dobrých objednávek. Dále buďte obezřetní při používání osobních asistentů s napájením AI k tomu, abyste řešili kritické obchodní úkoly, jako je správa poplachových systémů a bankovnictví. A konečně, držte krok s novinkami o druzích AI, které vaše firma používá, abyste byli informováni o nových funkcích, funkcích a bezpečnostních otázkách, protože AI získá více sofistikovanosti.

Rafael Lourenco

Rafael Lourenco je výkonným viceprezidentem společnosti ClearSale, což je operace prevence podvodů Card-Not-Present, která chrání obchodníky s elektronickým obchodem před přepočtem. Vlajková loď společnosti Total Guaranteed Protection je end-to-end řešení outsourcingu detekce podvodů pro on-line prodejce. Sledujte Twitter na adrese @ClearSaleUS nebo navštivte http://clear.sale/.

Líbí se vám tento článek? Zaregistrujte se pro skvělý obsah.

Buďte součástí Business.com

Jste již členem?
Přihlásit se.

Rádi bychom slyšeli váš hlas! Přihlaste se, abyste mohli komentovat.