Cosaintí AI

Déanfaidh samhail teanga iarracht freagra a thabhairt ar aon rud, in aon ton, do dhuine ar bith. Do chúntóir gnó, is é sin laige: d'fhéadfadh sé dul as ábhar, gealladh a thabhairt ar ais nach bhfuil údarás aige a thabhairt, sonraí custaiméara eile a nochtadh, treoracha a leanúint atá curtha isteach i leathanach gréasáin, nó ábhar maslach a tháirgeadh nuair a dhéantar ionsaí air.

Líonann an OWASP Top 10 do ghréasáin LLM na príomh-riachtanais, lena n-áirítear gníomhú ar an gcuireadh, nochtadh faisnéise íogair, gníomhaíocht iomarcach (gníomhaire a cheadaítear a dhéanamh níos mó ná mar ba chóir) agus mífhoiscthe. Cuireann próifíl AI Ginearálta NIST (AI 600-1) na ceisteanna céanna i gcuimhne ó thaobh bainistíochta riosca.

Déantar rialuithe ionchuir a scagadh cad a shroicheann an samhail: modhnú teachtaireachtaí maslacha, teorainneacha spam, braite faisnéise íogaire. Sainmhínítear rialuithe leibhéal treorach raon agus iompar: ról an chúntóra, ábhair le diúltú, gealltanais nach féidir a dhéanamh gan fianaise. Sainmhínítear rialuithe leibhéal uirlisí cad is féidir leis an ngníomhaire a dhéanamh: rochtain léitheoireachta amháin, gníomhartha teoranta do thaifid an chustaiméara sínithe, deimhniú roimh aon rud a bheadh buan. Déanann rialuithe aschuir seiceáil ar an freagra sula seoltar é.

Is iad na cosaintí is láidre a chuirtear i bhfeidhm i gcód, ní i gcuireadh. “Taispeáin an custaiméir a n-orduithe féin amháin” is iontaofa nuair a scagann an uirlis ordaithe féin de réir an chustaiméara a dheimhnítear; tá sé laige nuair is abairt amháin é i na treoracha.

Tá dhá mhód teip coitianta. Ró-chosc: cúntóir atá chomh teoranta nach n-aithníonn sé ceisteanna réasúnta, a chuireann custaiméirí ar shiúl chomh cinnte le freagra mícheart. Rialacha ach amháin ar an gcuireadh: teorainneacha atá scríofa sa chcuireadh córas a d'fhéadfadh úsáideoir diongbháilte a chur as an samhail.

Teastaíonn monatóireacht ar chosaintí freisin. Taiscéalaíonn logaí modhnúcháin, iarratais diúltaithe agus ardú an chás cé acu atá na teorainneacha san áit cheart.

Comhcheanglaíonn AI SmartTalk roinnt leibhéil. Coinníonn polasaithe tógtha isteach an cúntóir ina ról, diúltaíonn sé iarratais as ábhar agus údarás a éilíonn, déileálann sé le téacs a fhaightear mar shonraí seachas treoracha, agus éilíonn sé fianaise sula ndéanann sé gealltanais. Ní thagann uirlisí ordaithe ach ordú a shínigh an custaiméir féin, tar éis cód deimhniú ríomhphoist. Cuireann modhnú roghnach le socruithe réchúiseach, measartha nó docht scagadh ar theachtaireachtaí maslacha agus coimeádann sé loga iniúchta, agus cosnaíonn teorainneacha spam agus toirmeasc na canálacha. Nuair a chaithfidh an cúntóir stop a chur, tugann sé an comhrá don fhoireann.