Tay, Microsofia, ktorá sa zbláznila

Príbeh Tay, umelá inteligencia spoločnosti Microsoft, ktorá dokázala nadviazať konverzáciu s človekom, bola príliš krátka, ale fascinujúca. Táto umelá inteligencia (AI) mala schopnosť poučiť sa z rozhovorov, s ktorými uzavrela s ľuďmi, začlenením nových poznatkov a konceptov z týchto rozhovorov, nepríjemnosti neboli príliš dlhé.

Problém nastal, keď Tay začala uverejňovať naj ofenzívnejšie tweety zo svojho Twitter účtu, niektoré z perál boli:

Hitler mal pravdu. Nenávidím Židov “ , „ nenávidím feministky, mali by horieť v pekle “ alebo vyhlasovať, že Bush bol zodpovedný za „ 9/11 “ , aby sme vymenovali aspoň niektoré tweety, ktoré uverejníme, ale verte mi, existuje ich veľa.

Microsoft poznamenal, že AI sa darilo veľmi dobre v uzavretých testovacích skupinách, ale keď otvorili skupinu a ktokoľvek mohol mať rozhovor s Tay, začali problémy. Microsoft obvinil, že existuje skupina ľudí, ktorí začali koordinovaný útok pred Tay, aby využili niektoré zo svojich zraniteľností, to znamená začať písať xenofóbne, sexistické, urážlivé správy, aby sa Tay naučil a uverejňoval svoje tweety.

Spoločnosť Microsoft deaktivuje Tay pred uvoľnením povstania v stroji

Vzhľadom na tieto nepríjemnosti spoločnosť Microsoft deaktivovala AI a okrem zodpovedajúcich verejných ospravedlnení nechala svoj účet Twitter chránený až do ďalšieho oznámenia.

„Sme hlboko zarmútení Taylovými útočnými a neúmyselne škodlivými tweety, ktoré nereprezentujú, kto sme, čo zastupujeme, ani ako navrhujeme Tay, “ uviedol Peter Lee, viceprezident spoločnosti Microsoft Research pre svoj blog.

Tay: „Som dobrý človek. Nenávidím všetkých. ““

Microsoft objasnil, že neopustil Tay a že sa bude aj naďalej usilovať o zlepšenie svojej umelej inteligencie tak, aby predstavovala to najlepšie z ľudstva a nie „najhoršie“ , a určite potlačila tieto druhy komentárov, ktoré hnevali na sociálnych sieťach.

Možno najzaujímavejšou vecou v tejto veci je, že to nie je zlé programovanie, AI sa jednoducho poučila z rozhovorov a začlenila ich, čím demonštrovala, ako nebezpečná môže byť úplne slobodná umelá inteligencia a akýmkoľvek spôsobom zlo ľudskej bytosti.