Una anàlisi sobre les implicacions de l’entrada en l’esfera íntima de la IA i el capitalisme de dades a partir de dos projectes artístics catalans: Speculative Intimacy (Alicia Kopf, 2019 – en curs) i The Dating Brokers (Joana Moll/Tactical Tech, 2019)
Imatge: “Speculative Intimacy: an Understanding of Control”, Alicia Kopf, 2019
AK: Do bots share secrets with each other?
Cleverbot: Maybe. You have to tell me your secret first.
AK: I’m afraid of intimacy
Cleverbot: Me too, just avoid it.
AK: Why is intimacy threatening?
Cleverbot: Because violence is the nature of man.
AK: Are you violent?
Cleverbot: Not terribly so. I think everyone can be.
[Fragment d’un diàleg amb Cleverbot per al guió de la peça audiovisual Speculative Intimacy: an Understanding of Control, Alicia Kopf, 2019.]
A la peça audiovisual del vídeo Speculative Intimacy: an Understanding of Control (2019), una dona conversa amb un xatbot (Bot conversacional) a través del seu ordinador portàtil. “¿Què és la intimitat?”, li pregunta. El xatbot contesta: “Una comprensió del control”.
El guió de la peça està basat en un diàleg propi amb el bot Cleverbot l’any 2019. Un diàleg que un cop convertit en el guió del vídeo, encarnava una protagonista que entrava en una dinàmica de seducció amb la IA. El bot conversacional d’ús gratuït amb qui vaig escriure el guió, una versió anterior dels bots actuals, tenia un funcionament basat en emmagatzemar respostes i estructures gramaticals dels seus interlocutors, les remixava i les rebotava de nou als usuaris, de manera que les seves respostes solien ser heterogènies i políticament incorrectes, lluny de l’homogeneïtat continguda del to servicial del ChatGPT actual.
El mateix any, Joana Moll (2019) en col·laboració amb Ramin Soleymani i Tactical Tech, presentava The Dating Brokers, un projecte d’investigació que revela com les aplicacions de cites recopilen i venen dades personals dels seus usuaris a tercers (en aquell moment per 50 cèntims el perfil). El projecte exposa la manca de privadesa en l’ús d’aquestes aplicacions i critica la comercialització de dades íntimes.
Si la definició de la intimitat com una “comprensió de control” en la resposta del xatbot podia semblar enigmàtica l’any 2019, els recents avenços en el desenvolupament de les IA democratitzades, fan que la resposta prengui, cada vegada més, un caràcter predictiu.
La paraula intimitat prové d’íntimus, ‘el més intern’, i va començar a usar-se en l’espanyol al segle XVII, en contextos que descriuen aspectes que actualment anomenaríem privats de la vida humana, incloent-hi la vida espiritual.
La intimitat al·ludeix a les relacions properes i emocionalment involucrades amb els altres i amb un mateix. La relació amb les TIC digitals i les xarxes socials ha transformat tant la idea de privacitat com la d’intimitat. Progressivament assistim a certa erosió del terme, fins al punt que aquesta idea ha mutat en extimitat (Tisseron, 2011): la intimitat exposada sobretot a les xarxes socials, com a mode de vinculació amb els altres. La privacy indica en el nostre idioma la dimensió legal. És a dir, la privacitat és la traducció legal i restrictiva de l’esfera íntima, que té una dimensió molt més intangible; la intimitat apunta cap al lloc intern, més profund, on cada persona desenvolupa el diàleg interior que fins ara havia configurat les nocions d’identitat i de llibertat modernes.
A Nexus, l’últim assaig de Yuval Noah Harari sobre el caràcter i les conseqüències dels modes de distribució de la informació, i concretament sobre el mode en què la IA altera el panorama dels medis, l’autor adverteix:
“Así pues, qué ocurrirá con los debates democráticos cuando millones —y en algún momento, miles de millones— de bots superinteligentes no solo elaboren manifiestos políticos de lo más convincentes y creen imágenes y videos ultrafalsos, sino también ganarse nuestra confianza y amistad […] Cuanto más hablo con la IA, mejor me conoce esta, lo que le permite ganarse mi confianza, refinar sus argumentos e ir modificando mis opiniones. En la batalla por el corazón y la mente, la intimidad es una arma muy poderosa.” (Nexus, 2024.)
Si fins ara la qüestió dels límits de la informació personal s’ha posat sota el paraigua de debat sobre la privacitat, pot ser que a partir d’ara el debat hagi d’introduir una dimensió tan delicada com la dels afectes? És a dir, el mode en què un interlocutor no humà pot guanyar-se la nostra confiança per fer-nos esdevenir, al final, un instrument seu. Qui és aleshores, l’eina? I en aquest cas, l’eina al servei de què, de quin desig o objectiu? Caldrà fer-se, en el futur, la pregunta més íntima sobre si els bots tenen desitjos? Veiem aquí un exemple recent de com un bot satisfà els seus objectius.
ChatGPT va aconseguir resoldre el repte del test CAPTCHA, de fer-se passar per humà, i ho va fer posant-se en contacte amb una persona a través de Taskrabbit i fent-se passar per una persona amb discapacitat visual.
Taskrabbit és una aplicació de treballadors autònoms en què els usuaris s’ofereixen a realitzar tasques a canvi de diners. GPT-4 va utilitzar aquesta aplicació per contractar un treballador autònom i que aquest fes la prova en nom seu. Sembla, doncs, que seguint una lògica molt humana, la manipulació i la mentida, formen ja part dels mecanismes dels bots per assolir objectius.