Grupul şi-a sfătuit angajaţii să nu introducă materialele sale confidenţiale în chatboturile AI, au spus persoanele, iar compania a confirmat, invocând politica de lungă durată privind protecţia informaţiilor.
Chatboturile, printre care Bard şi ChatGPT, sunt programe care imită inteligenţa umană, care folosesc aşa-numita inteligenţă artificială generativă pentru a purta conversaţii cu utilizatorii şi a răspunde la nenumărate solicitări.
Evaluatorii umani pot citi chaturile, iar cercetătorii au descoperit că AI similară ar putea reproduce datele pe care le-a absorbit în timpul antrenamentului, creând un risc de scurgere.
Alphabet şi-a avertizat, de asemenea, inginerii să evite utilizarea directă a codului de computer pe care chatbotul îl poate genera, au spus unii dintre oameni.
Solicitată pentru comentarii, compania a spus că Bard poate face sugestii de cod nedorite, dar totuşi îi ajută pe programatori.
Google a mai spus că îşi propune să fie transparent cu privire la limitările tehnologiei sale.
Preocupările arată modul în care Google doreşte să evite prejudiciera afacerii din cauza software-ului pe care l-a lansat în concurenţă cu ChatGPT.
Miza în cursa Google împotriva susţinătorilor ChatGPT OpenAI şi Microsoft sunt investiţii de miliarde de dolari şi venituri din publicitate şi din cloud din noile programe AI.
Avertizarea Google reflectă, de asemenea, ceea ce devine un standard de securitate pentru corporaţii, şi anume avertizarea personalului cu privire la utilizarea programelor de chat disponibile public.
Un număr tot mai mare de companii din întreaga lume au instalat protecţii faţă de chatbot-urile AI, printre acestea fiind Samsung, Amazon.com şi Deutsche Bank, au declarat companiile pentru Reuters.
Apple, care nu a rîspuns cererilor de comentarii, se pare că a făcut-o de asemenea.
Aproximativ 43% dintre profesionişti au folosit ChatGPT sau alte instrumente de inteligenţă artificială începând cu luna ianuarie, adesea fără să spună şefilor, conform unui sondaj efectuat de site-ul de reţea Fishbowl, în rândul a aproape 12.000 de respondenţi, inclusiv de la companii de top din SUA.
Până în februarie, Google a spus personalului care testa Bard înainte de lansare să nu-i ofere informaţii interne, a raportat Insider.
Acum, Google lansează Bard în peste 180 de ţări şi în 40 de limbi, ca o rampă de lansare pentru creativitate, iar avertismentele sale se extind la sugestiile sale de cod.
Google a declarat pentru Reuters că a avut conversaţii detaliate cu Comisia pentru Protecţia Datelor din Irlanda şi că abordează întrebările autorităţilor de reglementare, după un raport Politico de marţi conform căruia compania a amânat lansarea Bard în UE săptămâna aceasta, în aşteptarea mai multor informaţii despre impactul chatbotului asupra confidenţialităţii.
Îngrijorări legate de informaţiile sensibile
O astfel de tehnologie poate redacta e-mailuri, documente, chiar şi software-ul în sine, promiţând să accelereze considerabil sarcinile.
Cu toate acestea, în acest conţinut pot fi dezinformări, date sensibile sau chiar pasaje cu drepturi de autor dintr-un roman ”Harry Potter”.
O notificare de confidenţialitate Google actualizată la 1 iunie mai spune: ”Nu includeţi informaţii confidenţiale sau sensibile în conversaţiile dvs. cu Bard”.
Unele companii au dezvoltat software pentru a răspunde unor astfel de preocupări. De exemplu, Cloudflare, care apără site-urile web împotriva atacurilor cibernetice şi oferă alte servicii cloud, comercializează o capacitate pentru companii de a eticheta şi de a restricţiona unele date de la fluxul extern.
Google şi Microsoft oferă, de asemenea, instrumente de conversaţie clienţilor de afaceri care vor veni cu un preţ mai mare, dar se abţin de la absorbţia datelor în modelele publice de AI.
Setarea implicită în Bard şi ChatGPT este de a salva istoricul conversaţiilor utilizatorilor, pe care utilizatorii îl pot şterge.
”Este logic” ca companiile să nu vrea ca personalul lor să folosească chatboturi publice pentru muncă, a declarat Yusuf Mehdi, directorul de marketing pentru consumatori al Microsoft.
”Companiile adoptă un punct de vedere conservator”, a spus Mehdi, explicând cum se compară chatbotul gratuit Bing de la Microsoft cu software-ul său pentru întreprinderi.
”Acolo, politicile noastre sunt mult mai stricte”, a arătat acesta.
Microsoft a refuzat să comenteze dacă are o interdicţie generală pentru ca personalul să introducă informaţii confidenţiale în programele publice de inteligenţă artificială, inclusiv în programele sale, deşi un alt director de acolo a declarat pentru Reuters că şi-a restricţionat personal utilizarea.
Matthew Prince, CEO al Cloudflare, a spus că introducerea unor chestiuni confidenţiale în chatbot-uri a fost ca ”a pierde o grămadă de doctoranzi în toate înregistrările tale private”.