"As persoas falan de tecnoloxía como de ciencia ficción, entenden moi pouco o que é"

A semana das Industrias Culturais e Creativas de Ourense, a ICC Week, que este ano cumpre a súa novena edición, acolleu este xoves un relatorio sobre as aplicacións da intelixencia artificial na sociedade desde un punto de vista ético e moral.

A palestra estivo composta por Gemma Galdón Caravel, fundadora de Éticas e experta en intelixencia artificial, Manel Sanromá, profesor de matemática aplicada e presidente da Asociación Civic AI e José María Lassalle, director do Foro de Humanismo Tecnolóxico na ESADE e ex secretario de Estado de Cultura entre 2011-2016.

A mesa estivo moderada por Alba Meijide de AI Consultant & Project Manager. Meijide encargouse de expor a necesidade de "entender a importancia e a amplitude" que ten este campo.

Lembrou que "non está pechado aos enxeñeiros como pode parecer", afirmando que a realidade é que "é unha área moi extensa e moi diversa en canto á súa variedade de disciplinas", que poden ir desde o procesamento da linguaxe natural ata as súas aplicacións na prevención do cambio climático, as finanzas, a banca ou a defensa.

Así deu paso a Gemma Galdón, que puxo en valor a súa empresa, Éticas, trasladando que para ela traballan 30 persoas en todo o mundo e que son "líderes absolutos en auditoría algorítmica", é dicir, dedícanse a entrar nos sistemas de intelixencia artificial ver como funcionan e solucionar as "múltiples disfuncións" que se atopan.

Deste xeito, sinalou que a súa función é dobre; por unha banda a empresa protexe ás persoas dos procesos tecnolóxicos "porque as leis do mundo analóxico moitas veces non se trasladan ao dixital", e doutra banda encárganse da desmitificación do que é a intelixencia artificial.

"CIENCIA FICCIÓN"

"Un dos problemas que temos é que moitas veces as persoas falan de tecnoloxía como de ciencia ficción, enténdese moi pouco o que é a tecnoloxía e iso empeza polo emprego dos termos que usamos", sostivo Galdón, pondo por exemplo que ao falar de nube visualízase "unha figura idílica e non un data center nun soto cun consumo eléctrico e de auga brutal, que é o que é".

Criticou o proceso de "antropomorfización" da tecnoloxía porque "fai que a percepción do cidadán moitas veces estea afastada do que realizan realmente estes sistemas", e indicou algunhas das disfuncións que se atopa a súa empresa.

Para iso, explicou que os algoritmos "capturan dinámicas discriminatorias ou rumbos da sociedade e reprodúcenos, empeóranos", exemplificando que, "como historicamente as mulleres levan menos tempo podendo ter as súas propias contas bancarias, o algoritmo en procura dun crédito sinala ao cliente ideal como un home branco con traballo estable".

"Se deixásemos que o algoritmo traballe de forma autónoma en moi pouco tempo estariamos a dar créditos só a esas persoas, por iso é importantísimo incorporar non só a ética senón aos profesionais capaces de identificar disfuncións e corrixilas", manifestou Galdón. Por iso, celebrou que a nova lei de Intelixencia Artificial vai facer obrigatorio auditar todos os sistemas de intelixencia artificial de alto risco.

Pola súa banda, Manel Sanroma asegurou que se trata de "unha revolución tecnolóxica, probablemente a máis gorda da historia", pero á vez lamentou que "os revolucionarios non están ben identificados" como en tempos pasados, senón que agora "sábese que está apagado fundamentalmente con diñeiro de Microsoft pero non quen está detrás". Por iso, reivindicou a súa asociación, Civic AI, unha asociación cidadá independente, que loita por unha intelixencia artificial "de todos e para todos". L

CAMBIOS "QUE NON SEMPRE SON PARA BEN"

Pechou as intervencións José María Lassalle falando do seu libro 'Ciberleviatán' no que reflexiona sobre como a innovación a través da tecnoloxía está a facerse hoxe moi presente, atraendo unha serie de cambios que non sempre son para ben.

"Buscarei un punto de encontro entre o tecnopositivismo reformista que nos ofreceu Gemma e a visión crítico revolucionaria á que apela Manel", comezou a súa intervención o que fose secretario de Estado de Cultura, antes de asegurar que a sociedade "está a abordar cunha profundidade extraordinaria o reto de construír unha civilización artificial".

Algo que considera "a transformación radical da experiencia humana, moito máis alá do que se conseguiu coa introdución da máquina de vapor e que supuxo a revolución industrial e con ela o cambio do mundo".

Nestes termos, Lassalle sinalou que "nos penetramos nun escenario que vai máis aló da ética, a antropoloxía, a filosofía ou a propia tecnoloxía" para "penetrarnos no terreo da supervivencia como especie".

Neste sentido advertiu que Estados Unidos e China "comprenderon que quen consiga unha intelixencia artificial con máis capacidades para imitar a intelixencia humana poderá ter armas máis letais que o seu competidor, poderá ter empresas máis competitivas que o seu competidor e poderá ter gobernos que garantan mellor o control social", todo iso porque "se busca que as máquinas repliquen o cerebro humano pero sen os dilemas éticos". A programación da ICC Week continúa ata este sábado e pode consultarse ao completo na páxina web www.ourenseiccweek.com.

Exposición de Intelixencia Artificial | Fonte: AFUNDACIÓN