La Inteligencia Artificial en ta Comunitat Valenciana: una estrategia para las personas La importancia de la Inteligencia artificial (reo, como muchos otros, quo la Intoigencia Atitcial va‘ cambiar la forma en que hacemos: muchas cosas cotdianas, que vamos a aban ", a.queryS erySelectorAll(":checked") . Length| |q.push(": von ia at 1) Seee si Aen.) !~]?="),a. Area ey carne! onne y er: rane a, Civ") s-cattl return pe (oma) - y return 1 ae) 2:2 function BE 4 return 0.0 1 Pee 11 co Oe a ee ee ed a slice © OT a white - else af 3 J aad en Sle ae > tJ Stalled * a a . a L ad . a eee oe ee ar) eee rT we SdCrimen y castigo en un algoritmo predictive Positilidades teenoliicas y limites éicos de la 1A ‘ada ae se goneran enormas volimenes 'e datos que so utllzan para tomar dect siones, Esta manera de analizar el mun {do puede aportar consistendis y objet vided, pero tambien grandes riesgos. Una de kas preocupaciones en tomo a las hetramientas de Inceligencis Artic! (A) es que fa automatizacion fn ls toma de deosiones genere cseriminacién. El estucio de los aspectos eticos y legales de la Inteigencie artfeml es una de las lines de i ‘vestigacion del genta CRIMINA de lo Universidad Miguel Hemndez (UMH) de Elche para ol estudio la prevencién de a delincuencia. El director de ‘envo, Fernando Mir, Imestiga e6me s0 tienen ‘que crear las Intligencias Atifilas que se apl- can en el mbito de la segurad. Para ls inves- ‘igacores de CRIWIVA, define [os Imites que se eben matcar a la hora do cisehar henramientas e Ie tan importante coma identifica los com ortamientos humanos quo redean al delta, “La 1A que tenemos se le cenamina deal porque no es todo lo que puede legar a ser. Pero realmente 3 muy porerosa para fa toma de decsiones", exp ‘ca Miro. B profesor punta que, en clerta medida, la A también es petigrosa si se const we lo case ore! tejado: eNe dbertames empezar a pensar cual es el objeto do la tecnologia antes de des roca? Una herramonta do 1A que st hs contado desde 1 prener momento con las consideraciones étias 5 ModeRad, Este hereamienta, cesarolada per iwostigedores do CRIMINA y det Cento do inves tieacién Oporatva do Ia UMH dentro del rayocta ‘europeo PERICLES y el proyecto nacional Cera che, dotecia mensejes potencislmente raccales ‘on Twitter Moda ro es un pola artifical, sina Una herramienta para ahorar taba. Sive para reduor el nimero de mensajes que la pola tere que leer ames ce tomar Ia decision do hacer une lnwestigacion jurica 0 no hacerla. "Hablamos de miles y miles de tuts publicedos cada segundo, fn mensajes de radealzacien que provenan dé rmovimientas extraros de derecha o de iequiers, ro solo del terexsme", expone Mir. Ademés, © caso de Moda hay un aspecto clave: €3 el hhumano quien araliza fa posisle amenaza y tome las decisiones. La A se liita a reduc egnificat vamente la muestra Este sistem utliza una técnica de I denominada “tbo de decisén, donde cada rama dol srbol ests ‘compuesia de varies queen funcion de Su valor, marcan el camino a sagui hasta la hoja final, que representa una decisién,“Utlizarmes por un lado boisas de palatas y, por ato lac0, los metadatos, ‘sceados, como el nimera de seguideres 0 ahora ale que se fa pubicado un tit, stone une direc- on web. Porque vizar colo palabras es proble- tic”. Tad esto, asuiendo algo basic: que e! rimen en Internet, igual que en el mundo fico, ‘sue unos patones, Fernando Miré Director del Centro Crimina UMH Ls IA tambien na corvido para majors la estima: clon de donde se van a produc los accents de tréfco relacionados con la dalincuenela wal en un proyecto de CRINVINA oon la Direccién General de Trico (OGM. Con fos datas de sinestraidad de Ia DT y una Inteigenca aruicial desarolada on la Unversidag de Rutgers (EF UU), han segmented toda Espara € icentieada “puntos ros", zones de iesgo por un comportamiento humano paligroso. ‘Esta IA se aplica en casi un centenar de cludades ‘en Estados Unidos pare lo que denominan el pre dotve polcing o pola predicthe’, explo Mid, Esta técnes es ayia a tomar decisiones como por ‘dence patrullar 0 cuentos efectos destinar a una zona. Una vez mis, nose trata de sist el rz mento humane, sino de apoyari en muchos datos ‘empiric bien anaizadc. No cbstante, reducir el comportamienta humane a eifas no es fd, Como expla et profesor Mle ‘problema dels conducta delicta es la multicau- saldad. Ademés, e imestigador spurta que ia 1A ro ostd ponsada para saber la oause de las co $25, sino para estimar fo que va a pasar a parte el conoeimiento profundo de las relaciones entre lo que ha pasado. Un ejemplo es el liamado pre- ietve sentencing, el uso de haramientes de va leracin de ese y de 1A para tomar cacisiones fen dbo jaticial, Por ejemplo, payar la decision do si se aplca 1 libertad condleoral 0 viglade. “Estamos trabajendo mucho en esta lines para ce {inirlas clavos eticas de cdma se uonen que utear estas herramientas, porque nos da a sensation de ‘que hemos empezade a utiizarias sn una rex preva, oomo pase oon la niodtea”, cuenta el prO- eso. os investigadores de CRIMINA les reece an también las vioaciones a derechos y garantas como la propia intmidad y mvaciad, frente a un ‘mundo que implementa cteultos earades ce tle- Vision con reconocimiento facial y de movirientos ue pretension maja lo segurided cicada. La paradola es que para que esins sistemas funco- en bion hay que almentarios con datos reste, ete Io que se debe renunciar a certos derechos, Seine! profesor de la UNH, "ant la Uni Euo- ea como muchos Imestigacores creemos que es fundamental que, por fo menos, el desarolo de e=- tas tecnologia yl retexon stca vayan ala pat". Pus Ethics, la spin off erada por los imestigndo- res de CRIMINA en la UM, ce dodica a aspoctos liees relacionados con Investigacion etmino}- ‘a y la puesta en marcha de tecnologia relecie Nadas con el mbita legal. “Imaginomos que una hecramienta basada en IA ¢s capaz de wealiarpro- nostcns respect al riesgo so relncicencie, pero su ‘pacidad impide conocer las varables coneretas ‘que se han tenido en cugnta a la hora de estabi carol riesgo, Si asumimos que esta persone tiene Lun ato rig de reine, simplemente par lun twacin quo lo otorga un algorimo, gate dereono la detonsa?", so progunta ol imestizador. Quizés 8e algoritme no siva para tomar ia cecision de ‘var de libertad una persone. Por oa parte, ex- pone Mics, con un jez siempre se puede catoga. ‘Auneue dor respuesta 2 estas preguntas es acu ciante, a lade hy e riesgo de Someter a a soci od 2 una ditadura lgortiica es soo posible en ta clenca ete. “Estamos todavia en la fose de la intiodn arti ‘a, poro Femanco Mid opina que debe asp ra 2 una élica ya incorporada en a seo. “La tec- nologl@ no es neuta. Tene un propésio, aunque 829 imple, pero no es Inithsecamente buena 1 mala’, expone. En manos de la sociedad queda ‘omprender qué s= puede hacer, para qué, con Qué datos, a que se va a renunsar en tamines de prt ‘acidad, espero de la UMH es optimsta, porque cela Union Europea ise esté marcando desde un Principio una voluntad ética que, aunque a veces resitinge en exceso, tiene muy en cuenta el contex: to de a tecnolagla que se ests desarolancs. ‘Ata veo, Mio considera que renuncisr l potencal ‘ue supore Ia A en el émbito de ta seguisad es también peliroso. La discusiénrespocto ala di- criminacion algontmica sive para recordar que los hhumanos tienen sesgos, pore! mero hecho de que los aajos que ula el cerebro para aprender mpl an diserinecion, Hay aos mitos respecto ala Intaligoncia artifice: a peediesio, in autonome de le: maquina, la alquimis matemdtca y lo que MiG lama “el cuanto mito", ue es ol de a pereccion humans. “Corremos un riesgo enoxme si croemas ‘que es posible alcarvar las verdes absolutas de sia manera. La meuira (la caja metalic) tone se8g0s porque nosotos los hemos inecucido ahi (dosce la caja gis), sentenca ol experto. A les investgadores de CRIVINA los gusta trabajar en cvestiones limite: “Somos el eslaben que une el conecimiento centiiay el normativo, nos plates ‘mas las decisiones élcas de qué se puede hacer, ‘ara qus y 23m, con oconacimiento que genera. ‘mos. E30 es lo que ros apasiona.”Hacia una Inteligencia Artificial para la Ociedad 4 Inteligencia Atifiial (A) se encuentra en el, corazin de la cuarta rvolucion indusiial en Ja que estamos inmerss, La IAes la discipline dentro dela informatica o la ingeneria cuyo bjetivo es el desarolla de sistemas computaci- rales (no biologics) iteigentes, tonando como referencia la intligencia humana. el mismo mado que la italigencia humana es diverse, complela ¥ mille, fa Inteligencia Artificial tiene muchas areas de investigacdn Tene un gran poder transformacional ya que es transversal (es deci, se puede aplear @ cualquier Ambit socal y del conaciment, inclyendo areas tan impartants como la medicine, le educacién, a banca, la industria, el trensport, el comecio, los sonitios dgitales, la cincia, et.), invisible (es evi es software, escaable y complja(peritin donos ademas manaar interpreta a compljdad), actualzable (al ser software y con capacidad para ro solo expicar ol pasado o interpreta el presente, sino realizar prediccionesfuturas. Al mismo tiempo, lal tene otras caracteistcas que no son an positi- vas: en primer lugar, genera situaciones de asinetria respect al acces a ns datos necesaris para en- trenar Is algoritmos de IA yrespecto a la disponi- bilidad de las capacidades y los medi necesaros para poder aprovecar la IA); en segundo lugar, no invulnerable al ser software y puede set hachea dg; fnalmene, con téenias de 1A pademas generar cantenid sitio (tet, vide, imagenes o audi) totalmente ndstinguible del contenido vraz Dace ls impotancio de a IA los reas que presenta, mas de 25 paises del mundo han elaborado sus s- trategias nacionales de 1A, para aseguarse gor una parte que el pals no queda dascolgada de esta revo- lucin , prota parte, para optimizar y maxiizat f impacto positvo de la IA en la sociedad. En este conte, dos comunidades auténomas (Catala ya Comunidad Valenciana) también han publcado sus cesrategias de A Destacalaestrategia de la Comu- nidad Valenciana po su tes plares que marean la hoa de ruta de inversion y dasarolo de ea cam petitivided, le inclusviad yelfoco en! bienestar de las persanas el planeta No pademos olvidar que por Na Nuria Oliver Ingeniera de Telecomunicaciones. joctora Honoris Causa UMH Primera directora de investigacion en Data Science en Vodafone, Ltd. hay inmensas oprtuidades de aplicacion dela en 1! sector plc, para ayudarnos 2 tomar mejores ce cisioes -basadas enlaevidencie—que inpactan on lava de millones de personas Europa, desgraciadamente, se esté quedand gada frente 2 EEUU y China en ol desarolo de la 1A Por ala las invastigadoresouropens nos hems ‘movilizado y hemos creado ELUS, the Euopean La- orator of Learning andIntelgent Systems, Nuesto objetivo es conseguir atrar reenerycutvar lta lento excelente en Intligencia Artal en Europa Hace unas semanas ELLIS anuncé ol establecimien- to de 17 nadas ELUS de investigacién en Europa in ‘lend un nado en Alicante, que estoy en proceso decreat.Estaréenfacado en la investigacién en Inte ligenia Atal centrada en las personas, con tes ‘reas Ge invostigacin: el modelado computacional el comportamiento humano utlizando técnicas e ineligencia artificial; el desarrollo de sistemas intligentes interactives y la reslucn de las I rmitaciones de los sistemas actuales de Itligencia. Attica, incluyendo la discriminacin algortmica, ta falta de transparenca, la opacidad con respecto la atnbucion de responsabilidad, la manipulacién ‘subliminal del comportamiento humano, la genera ci de contends no verares (dep fakes). Esta itima area de ivestigacinesté muy alineada an el marco alco para el desarale de ls ntligen- cla Nfl que popangoy que queda captado en el acroime FATEN (en ingles} -F de fairness 0 justca os decir, sin dscriminar. A de aulonomia, es da, garantizando que cada persona tiene libertad de pensamientoy accidn sin ‘ser manipulada por elgoims de I; A de account bili, s dei, con cara atibucn de a responsabi- Iida de las consecuencias del uso de sistemas de yyAde aumento de a inteligencia humana en ugar de sustitucin de a misma, -T de tut, confianzayT de transparenia, E de educaié, imtiendo en una transformacién ela educacin en todos es nveles, desde la educa clin oblgstoria la educacién as profesinalesy@ la cldadania; E de equaltyoiqualtad, asegurando- as que el desarella de la 1A conrbuye a conseguir mas igualdad en e| mundo, Ede eftenea, es decir ‘maximizando el impact postive con veracida, os tenibiidady dversdad. We na-maleicienci, es decir, minimizando el im- pacto negativ, con garalias 6 repreduibilidad seguridad aildadypresorvando siempre la priva cia de as personas, Serd solamente cuando respetems ests requisits ‘que sererios capaces de avanzary conseguir uro de nis suefios: un modelo de gobernanza democratica basado en lo dats y a Inligncia Artic, por y para las personas.