Tekoälysäädös ei ole IT-osaston asia

Jos olet toimitusjohtaja ja edes jossain määrin perillä siitä, mitä IT-hankkeita teillä on, suosittelen seuraavaa. Käy läpi järjestelmähankinnat viime vuodelta. Luultavasti jossain seassa on työkalu, joka kirjoittaa viestejä asiakkaille. Kuka sen hankinnan hyväksyi? Myynti. Kuka sen vastuun otti? Tietohallinto. No siinäpä se.

Tekoälyn vastuun oletetaan menevän jonnekin muualle, kuten yleensä IT:lle tai järjestelmän toimittajalle. Ei muuten mene. Jos kone kirjoittaa sinun nimissäsi asiakkaalle, viestissä on sinun nimesi.

Väitän, että tekoälysäädös tulee useimpiin hankintoihin liian myöhään. Ensin se ei kiinnosta yhtään ketään, ja sitten vedetään paniikkijarru päälle ja keskeytetään outbound agentin työ kolmeksi viikoksi, koska kukaan ei ollut kysynyt asiaa keneltäkään ennen kuin asiakkaan lakimies kysyi asiasta.

Mikä myynnin arjessa oikeasti muuttuu

Suurin osa myynnin tekoälykäytöstä on EU:n tekoälysäädöksen kevyimmässä luokassa. Se ei kuitenkaan tarkoita sitä, ettei mitään tarvitsisi tehdä.

Kolme asiaa muuttuu joka tapauksessa:

1. Koneen pitää kertoa olevansa kone. Jos sivustollasi on agentti, joka keskustelee kävijän kanssa, sen ei kuulu esiintyä ihmisenä. Tämä on artikla 50. Se on myös myyntiä ja riskinhallintaa: jos ensimmäinen askel on moka, aika harvoin siitä kauppaa tulee.
2. Koneen tuottama sisältö pitää merkitä. Kun kone kirjoittaa luonnoksen, siitä jää jälki. Ei siksi että sitä pitäisi hävetä, vaan siksi että joltakin halutaan ehkä kysyä aiheeseen liittyviä kysymyksiä.
3. Ihmisen pitää voida puuttua prosessin kulkuun. Tämä on se kohta, joka erottaa työkalut toisistaan. Toiminto on human in the loop.

Varmista tämä kriittinen kysymys toimittajalta

Mitä tapahtuu, kun kone päättää lähettää viestin?

Vastausvaihtoehtoja on kaksi. Ensimmäinen menee näin: viesti lähtee automaattisesti ja voit tarkkailla prosessia. Toinen kuuluu: tekoäly odottaa valmiin luonnoksen kanssa, kunnes joku painaa hyväksy.

Ensimmäistä myydään tehokkuutena, ja tehokas se onkin. Se on tehokas siihen asti, kunnes kone lähettää sata viestiä väärälle kohderyhmälle tai väärällä hinnalla. Silloin kysymys ei enää ole tehokkuudesta vaan siitä, kuka soittaa asiakkaille perään.

Cloopissa jokainen ulospäin näkyvä teko odottaa vahvistusta: lähetetty viesti, siirretty kaupan vaihe, luotu tehtävä tai päivitetty vastuuhenkilö. Tekoäly valmistelee ja näyttää viestiehdotuksen sellaisena kuin se lähtisi asiakkaalle. Ihminen päättää lähteekö se ollenkaan, muokataanko ensin, vai lähteekö sellaisenaan. Tämä päätös hidastaa työtä sekunnilla, mutta säästää ne kymmenet yhteydenotot, jotka menisivät virheen selittelyyn.

Mistä kone poimii asiat, mitä väittää

Tekoälyn käyttämä LLM-kielimalli osaa kirjoittaa erittäin vakuuttavan lauseen aiheesta, josta se ei tiedä mitään. Virheen huomaa vasta ihminen, jolla on parempaa tietoa asiasta. Myynnissä se on vaarallista, koska asiakas uskoo lukemaansa. Jos kone kertoo toimitusajan, jota kukaan ei ole luvannut, lupaus on silti annettu.

Ainoa käytännöllinen suoja viestille on jäljitettävyys. Tuotetun tekstin pitää linkittää siihen tietoon, josta se syntyi: siihen sivuun tai tuohon dokumenttiin, tähän aiempaan keskusteluun. Silloin väitteen tarkistaminen on mahdollista.

Sama koskee rikastettua yritystietoa. Kentän vieressä pitää lukea mistä arvo tuli, jotta tekoälyn päättelemä tieto voidaan erottaa rekisteristä luetusta.

Missä data sijaitsee ja kuka sitä käsittelee

Tämän asiakkaan yhteyshenkilö kysyy joka tapauksessa, ja siihen kannattaa tietää vastaus etukäteen:

Missä palvelimet ovat? Entä kielimallin kutsut? Tämä unohtuu useimmiten mainita. Toimittaja voi kertoa aivan rehellisesti, että tietokanta on Suomessa, ja silti lähettää jokaisen asiakasviestin Yhdysvaltojen kielimalleille. On kasvava määrä asiakkaita, joille se ei käy.

Cloopin osalta vastaus on julkinen:

Tietokanta, varmuuskopiot ja lokit ovat Hetznerin konesaleissa Suomessa ja Saksassa. Kielimallin kutsut menevät Nebius B.V:lle Alankomaihin. Alihankkijat on lueteltu nimeltä, ja lista on luettavissa ilman kirjautumista.

3 kysymystä, jotka kannattaa osata ulkoa

1. Kertooko kone olevansa kone.
2. Kuka painaa lähetä-nappia.
3. Missä data on.

Pointti ei ole siinä, käyttääkö yritys tekoälyä. Kaikki käyttävät. Pointti on siinä, onko yritys lähettämiensä viestien takana vai joudutko pyytämään järjestelmätoimittajalta vastauksia. Miltä oma vastauksesi kuulostaisi juuri nyt?