DALL-E 2 artificial intelligence crea un llenguatge 'secret' que els investigadors no entenen a quina distància està el despertar de les màquines.

DALL - e 2, una intel * ligència artificial capaç de crear imatges a partir de textos proporcionats per un ésser humà, ha creat el seu propi llenguatge. Almenys, això és el que el petit grup d'investigadors que tenen accés a LES reclamacions D'IA.

S'ha trobat amb estranys missatges creats per la mateixa màquina com una instància intermèdia abans de generar la imatge demanada, com si abans de proposar el disseny suggerit pel text proporcionat pel desenvolupador, necessitava primer traduir-lo al seu propi llenguatge.

En particular, quan es demana A DALL-e 2 crear imatges amb subtítols de text i després veure els subtítols generats per la pròpia màquina (que a més són un veritable gibberish), els investigadors han arribat a la conclusió que per A DALL-E 2 "vicootes" significa "verdures", mentre que "Ch zod rea" és un concepte que es refereix a "criatures marines que podrien menjar-se una balena."

DALL-e 2 artificial intelligence

Tot i que la notícia ha sacsejat els fonaments del món tecnològic aquesta setmana, la veritat és que la història recorda una cosa que ja va passar fa 5 anys. Per tant, diversos chatbots creats PER IA van posar-se a parlar entre si per millorar les seves capacitats de conversa.faceboo chat

El resultat és que aquests a poc a poc van anar sortint dels patrons marcats fins al punt de crear el seu propi llenguatge que espantava més d'un. En resposta, el gegant Va decidir tallar la persecució: apagar les màquines.

Ho va fer tot i que, com molts investigadors van afirmar més tard, el llenguatge de Les màquines era encara una forma de comunicació que mancava d'una de les propietats inherents a qualsevol llenguatge: ser intel * ligible.faceboo machines

Aquestes converses, més que el despertar de La IA, van ser un diàleg de sords que només va demostrar tot el que els humans encara han d'aprendre de LA IA abans de confiar-hi.

DALL-e 2 artificial intelligence debate

EL mateix passa amb DALL-E 2, UNA IA que, igual que altres màquines de generació d'imatges com MidJourney, està obrint un debat sobre la forma en què es produeixen els continguts creatius, amb implicacions per als drets d'autor i la propietat intel * lectual.

No obstant això, com en el seu dia amb el Facebook AI, cal dir que el despertar de les màquines que encara és lluny.

"DALL-e 2 probablement no té un llenguatge secret. Seria més precís dir que té el seu propi vocabulari, però fins i tot tenint en compte això no podem saber amb certesa", diu Aaron J. Neuell, investigador postdoctoral en Dret Informàtic i Comptabilitat a Través D'AI a La Universitat De Tecnologia de Queensland, A Austràlia, en un article publicat a La Conversa.

Això subratlla la dificultat de verificar qualsevol reclamació sobre DALL-e 2 i altres grans models D'IA, ja que només uns pocs investigadors tenen accés a ells.

I aquests, a més, encara no poden modificar el codi per intentar esbrinar el motiu del seu comportament, de manera que la incertesa sobre aquest tipus de sistemes és encara més gran.

Per tant, destaca l'expert, tota la informació que prové d'aquestes eines s'ha de prendre sàviament.

DALL-e 2 artificial intelligence preguntes

I què se sap llavors? Pocs, però alguns sens dubte significatius, explica Neville. Una d'elles és que l'origen del desconcert inicial dels investigadors pot ser que la màquina prengui com a paraules de referència que no necessàriament provenen de l'anglès.

Per exemple, l'expert indica, "apoploe", que està relacionat amb la creació d'imatges d'ocells, és com el llatí apodidae, que és el nom llatí d'una espècie d'ocells.

"Un punt que dóna suport a aquesta teoria és el fet que els models lingüístics DE IA no llegeixen el text com tu i jo. En lloc d'això, van dividir el text d'entrada en fitxes abans de processar-lo", explica El Professor.

Els diferents enfocaments per crear unitats d'informació també ofereixen resultats diferents. Tractar cada paraula com un símbol, com fan molts éssers humans, sembla un enfocament intuïtiu, els comentaris dels experts, però causa problemes a les màquines en casos de polisèmia (la mateixa paraula té diversos significats) i homonímia (dues paraules diferents coincideixen de la mateixa manera).

D'altra banda, tractar cada lletra com una unitat d'informació produeix menys ambigüitats, però aporta molta menys informació a LA IA.

DALL-e 2 artificial intelligence informació

"DALL-E 2 i altres models utilitzen un enfocament intermedi anomenat codificació de parells de bytes (bpe).

La inspecció de les representacions DEL BPE d'algunes de les paraules incoherents suggereix que aquest podria ser un factor crucial per entendre aquest llenguatge secret, creu l'expert, la qual cosa subratlla, d'altra banda, la manca d'informació per avançar encara més en aquesta hipòtesi.

Més enllà de les curiositats lingüístiques generades pel naixement de LA pròpia llengua per una màquina, EL fet que DALL-E-2 hagi creat el seu propi vocabulari té implicacions que van més enllà del fet mateix.

Les té perquè és un error, un comportament imprevist per part de LA IA. Això està suscitant dubtes entre els experts sobre fins a quin punt es pot confiar en una tecnologia que encara no es pot dominar completament.

"Una de les raons per les quals aquests fracassos són preocupants és que posen en dubte la nostra confiança en el model. SI LA IA interpreta involuntàriament paraules incoherents, també podria interpretar paraules significatives sense voler", explica El DR.

A la pràctica, això té implicacions notables. Per exemple, tenint en compte que aquests ais estan entrenats per no generar contingut que pugui ser ofensiu, EL fet que DALL-E-2 necessita crear un llenguatge intermedi abans de generar la imatge obre una bretxa important en la seva seguretat.

Hi ha precedents. Nevell recorda que ja hi ha situacions lingüístiques en les quals se sap que frases curtes i sense sentit com el gallet zoning, sense que ningú sàpiga realment per què, contingut racista i ofensiu. Una cosa així podria passar si algú descodifica el llenguatge intern de DALL-e 2.

"Fenòmens com el llenguatge secret de DALL-e 2 plantegen problemes d'interpretació. Volem que aquests models es comportin com un ésser humà espera, però veure un resultat estructurat en resposta a gibberish confon les nostres expectatives", destaca l'investigador en la Conversa.

"Fins que aquests sistemes no estiguin més disponibles, i en particular fins que els usuaris d'un conjunt més ampli d'orígens culturals no anglesos siguin capaços d'utilitzar-los, no serem capaços de saber realment què està passant."

Mentrestant, l'expert subratlla que els usuaris i desenvolupadors haurien d'interpretar la producció dels seus propis llenguatges per part de les màquines, més que com una advertència davant l'imminent apocalipsi tecnològic, com un signe inequívoc de les limitacions de LA IA.

LI agrada DALL-e 2 artificial intelligence ? Comparteix-ho. Gràcies,