”Paljonko esihenkilöni oikeastaan ansaitsee?” Kiusallinen kysymys yrityksen tekoälylle. Ratkaiseva vastakysymys on: mitä asiakirjoja kyselyn taustalla oleva käyttäjätili saa todella lukea?
Mahdollinen virhe alkaa kauan ennen tekoälyä.
Kuvitellaan yritys. Vanhassa henkilöstökansiossa on palkkataulukko. Kansio on aiemman siirron yhteydessä jaettu yleiselle työntekijäryhmälle. Kukaan ei enää käytä linkkiä. Jako on silti edelleen voimassa.
Nyt käyttöön otetaan yritystiedon haku. Jos lähde on liitetty, teknisesti käsiteltävissä ja kysyvän tilin käytettävissä, vastaukseen voi päätyä asiaankuuluvia otteita. Uutta turvarajaa ei tarvitse murtaa. Tekoäly tekee vanhasta käyttöoikeusvirheestä helpommin havaittavan.
Tämä on kuvitteellinen esimerkki. Se ei kuvaa todellista DAXSin asiakastapausta eikä tietyn tuotteen yleisesti taattua toimintaa. Ilman sopivaa lähdettä ja pääsyä siihen tekoäly ei voi luotettavasti tietää oikeaa lukua; silti annettu luku voi olla keksitty.
Kolme henkilöä, kolme erilaista lähtötilannetta.
Henkilöstövastaava saa lukea asiakirjan työtehtäväänsä varten. Toisella henkilöllä ei ole tätä oikeutta, joten hänen hakunsa on suljettava lähde pois. Kolmannella on tekninen pääsy virheellisen ryhmäjaon vuoksi. Hänen kohdallaan on korjattava itse jako. Malli ei voi luotettavasti päätellä kehotteesta väärää organisatorista päätöstä.
Oikea vastaus voi olla väärä tietojen paljastaminen.
Monissa tekoälytesteissä arvioidaan, kuulostaako vastaus oikealta ja tukeutuuko se asiakirjoihin. Luottamuksellisissa tiedoissa on lisäksi tarkistettava, saako juuri kyseinen henkilö nähdä lähteen. Asiallisesti oikea palkkatieto voi silti paljastaa luvattomasti jotain, mitä yrityksessä tarvitsee vain pieni joukko.
Toisaalta kieltäytyminen ei vielä osoita toimivaa suojaa. Asiakirjaa ei ehkä vain löytynyt. Käyttöoikeustestien on siksi katettava lähde, hakuindeksi, suorat haut ja epäsuorat muotoilut. Yksittäinen ystävällinen huomautus ”Nämä tiedot ovat luottamuksellisia” ei ole luotettava käyttöoikeustarkistus.
Laskelmat vaativat saman huolellisuuden.
Aihe ei koske vain palkkoja. Työntekijä voi kysyä työstään laskutettavaa tuntihintaa, asiakkaan ehtoja tai projektin sisäistä katetta. Tällaisia tietoja voi olla tarjouksissa ja taulukoissa. Laskutushinta, katetuotto ja yrityksen voitto ovat eri suureita; yhdestä löydetystä luvusta ei voi perustellusti päätellä työtunnin tuottamaa voittoa.
Siksi sekä lähteiden käyttöoikeuksien että päätelmien laadun on oltava kunnossa. Luottamuksellisten tietovarantojen siivoaminen ja tuotosten asiasisällön tarkistus ovat kaksi erillistä tehtävää.
Mitä yritys voi tarkistaa ennen pilottia?
- Tunnista henkilöstö-, talous- ja strategia-asiakirjat ja nimeä vastuuhenkilöt.
- Tarkista tosiasialliset käyttöoikeudet, myös ryhmät, periytyminen ja jakolinkit.
- Valmistele testitilit sallitulle, estetylle ja vahingossa liian laajalle pääsylle.
- Tarkista, sovelletaanko oikeuksia ennen otteiden luovuttamista mallille.
- Huolehdi poistettujen jakojen vaikutuksista myös indekseissä, välimuisteissa, viennissä ja jaetuissa vastauksissa.
Microsoft kuvaa Microsoft 365 -tietoja käyttävän Copilotin hyödyntävän sisältöä käyttäjän käyttöoikeuksien rajoissa. Juuri siksi liian laajat lähtöoikeudet on korjattava ennen käyttöönottoa. Muut keskustelutuotteet ja lisäagentit on tarkistettava niiden todellisen tieto- ja tilimallin perusteella.
Järkevä seuraava askel.
DAXS voi suunnitella rajatun tekoälyn turvallisuustarkistuksen, johon kuuluvat lähdeluettelo, käyttöoikeuksien tarkistus ja dokumentoidut kielteiset testit. Tavoitteena on ymmärrettävä käyttöönottotilanne: mitkä lähteet on sallittu millekin käyttäjille, mitä puutteita tiedetään ja kuka korjaa ne?
Sivu tekoälyn turvallisuudesta ja AI Oversharingista selittää tarkistukset. Hakuarkkitehtuurin osalta Yritystieto ja RAG täydentää kokonaisuutta.
Lähteet: Microsoft: tiedot ja käyttöoikeudet · OWASP: arkaluonteisten tietojen paljastuminen.
