_
_
_
_

El ingeniero espa?ol que tiene un plan para desarrollar una inteligencia artificial ¡°humilde¡±

Pablo Mart¨ªnez Olmos asegura que los algoritmos actuales que dan potencia a las herramientas generativas, como ChatGPT, son imprecisos y f¨¢ciles de enga?ar

Pablo Martinez Olmos, Beca Leonardo 2024 en la categor¨ªa de Ciencias de la Computaci¨®n.
Pablo Martinez Olmos, Beca Leonardo 2024 en la categor¨ªa de Ciencias de la Computaci¨®n.KIKE PARA (Fundaci¨®n BBVA)

La inteligencia artificial est¨¢ pecando de soberbia. No es que lo est¨¦ haciendo adrede, porque no piensa ni razona, pero los algoritmos que le dan cuerda a herramientas como ChatGPT o DALL-E est¨¢n calibrados de tal manera que, cuando se les hace un pedido o se les plantea una pregunta, terminan arrojando respuestas muy detalladas aunque no tengan una base clara para generarlas. ¡°Exceso de confianza¡±, ese es el diagn¨®stico de Pablo Mart¨ªnez Olmos (Granada, 40 a?os), un doctor en Ingenier¨ªa de Telecomunicaciones que plantea el desarrollo de una inteligencia artificial ¡°humilde¡±, capaz de declarar el nivel de incertidumbre sobre los resultados que arroja.

¡°Me gust¨® la idea de humilde porque nosotros pensamos que una persona con esta virtud es alguien consciente de sus limitaciones y se frena a la hora de responder cuando no tiene idea de un tema¡±, dice Mart¨ªnez, sentado en su despacho en el Departamento de Teor¨ªa de la Se?al y Comunicaciones de la Universidad Carlos III de Madrid. El ingeniero acaba de ser reconocido con una de las Becas Leonardo que la Fundaci¨®n BBVA entrega para impulsar ¡°proyectos innovadores¡± en ¨¢reas de la ciencia y la cultura. La humildad es, por lo tanto, saber no dar una soluci¨®n muy detallada ni muy elaborada cuando realmente no se conoce su respuesta. Algo en lo que la inteligencia artificial est¨¢ fallando.

Alcanza con pedirle a DALL-E ¡ªel programa de inteligencia artificial de OpenIA que crea im¨¢genes a partir de descripciones textuales¡ª que genere un mapa detallado de Espa?a para que este sesgo quede en evidencia. Mart¨ªnez lo ha probado. ¡°La forma del pa¨ªs est¨¢ bien captada, pero luego el mapa incluye aspectos muy pormenorizados de la geograf¨ªa, como monta?as, r¨ªos o nombres de regiones, que son totalmente falsos¡±, apunta. Luego, agrega: ¡°Los algoritmos est¨¢n entrenados con ciertos sesgos de dise?o que los llevan a cometer lo que llamamos alucinaciones, salidas muy detalladas que no tienen ninguna base real¡±. Estas alucinaciones hacen que, ante un mismo pedido, en este caso, un mapa de Espa?a, la herramienta genere resultados muy distintos. ¡°Aisladamente, cada mapa parece tener sentido, porque est¨¢n construidos de forma muy fina, pero si se los observa bien est¨¢n plagados de errores¡±.

Pantallazo de DALL-E en el que se ve como, ante el mismo pedido de dibujar un mapa de Espa?a, la herramienta arroja resultados diferentes y con varios errores.
Pantallazo de DALL-E en el que se ve como, ante el mismo pedido de dibujar un mapa de Espa?a, la herramienta arroja resultados diferentes y con varios errores.

Esto acarrea varios problemas. Uno de ellos es la falta de rigor en las soluciones que ofrece la IA. Otro, que las herramientas generativas est¨¢n m¨¢s expuestas a un uso malintencionado. Los algoritmos en estas plataformas cuentan con varios mecanismos de control para limitar algunas respuestas que puedan dar informaci¨®n potencialmente peligrosa o privada, como las instrucciones para fabricar un explosivo casero. Sin embargo, Mart¨ªnez detalla que ¡°el coraz¨®n del algoritmo sigue siendo poco fiable cuando se trata de alucinaciones y, por lo tanto, es muy confiado en el nivel de detalle de sus respuestas¡±. Funciona igual que con las personas: cuanta m¨¢s confianza tenga en s¨ª mismo un algoritmo, m¨¢s f¨¢cil ser¨¢ encontrarle ¡°las cosquillas y enga?arlo¡±. Si se lo preguntas directamente no te lo dir¨¢, pero, con un poco de ma?a, ChatGPT puede terminar explicando c¨®mo cocinar metanfetaminas en casa.

Reformular los algoritmos

Mart¨ªnez apunta que su l¨ªnea de investigaci¨®n hacia una inteligencia artificial humilde se basa en pensar c¨®mo reformular los algoritmos para restringir esa capacidad de dar soluciones arbitrariamente detalladas y que no se basan en informaci¨®n fiable. El objetivo final es volverla m¨¢s ¨²til, confiable y segura. Lograrlo implica varios retos computacionales. ¡°Una de las ideas que proponemos es hacerle la vida m¨¢s complicada a la red neuronal durante su entrenamiento, utilizando ataques malintencionados y contradictorios¡±, apunta. Tambi¨¦n lo es aumentar las restricciones que el algoritmo tiene para almacenar toda la informaci¨®n en la que basa sus respuestas para que haya ¡°cierto orden¡±.

Pablo Martinez Olmos, Beca Leonardo 2024 en la categor¨ªa de CC. de la Computaci¨®n
Pablo Martinez Olmos, Beca Leonardo 2024 en la categor¨ªa de CC. de la Computaci¨®nKIKE PARA (Fundaci¨®n BBVA)

Mart¨ªnez pone como ejemplo el cuarto de juguetes de un ni?o peque?o. All¨ª conviven ca¨®ticamente piezas de Legos, mu?ecos de acci¨®n, pinturas y barajas de cartas. A simple vista todo est¨¢ desperdigado por la habitaci¨®n sin ning¨²n criterio, pero el ni?o, con una gran capacidad para recordar detalles, sabe perfectamente d¨®nde est¨¢ cada cosa, por lo que cuando quiera armar un puzle en particular, sabr¨¢ a d¨®nde ir a buscar las piezas. Solo que tambi¨¦n, por el desorden, utilizar¨¢ partes de otros juegos que, en esta ocasi¨®n, no tendr¨¢n sentido para el puzle que quiere armar. Sin embargo, si cada juego se guardara en una cajonera o estuche concreto, ser¨ªa menos probable que se cuelen elementos de otros juegos. Con la informaci¨®n que almacenan los algoritmos sucede igual, hace falta un poco de orden para acortar el margen de error. Al igual que es complicado educar a un ni?o para que mantenga esta estructura, con la red neuronal de una inteligencia artificial generativa ocurre algo similar en t¨¦rminos computacionales y matem¨¢ticos.

El ingeniero sabe que no puede competir con el desarrollo de las grandes compa?¨ªas tecnol¨®gicas, pero su proyecto intenta proponer una metodolog¨ªa de entrenamiento de algoritmos m¨¢s robusta, que derive en el desarrollo de herramientas m¨¢s fiables. Aunque ninguna soluci¨®n es m¨¢gica. ¡°La palabra ¡®inteligencia¡¯ en todo esto es muy confusa. A m¨ª me gusta m¨¢s hablar de funciones matem¨¢ticas que estamos interpolando y que, por ahora, no pueden prescindir de la capacidad cr¨ªtica o la supervisi¨®n del ser humano¡±, dice.

Esta idea de una inteligencia artificial humilde, segura, trazable y controlada tendr¨ªa, cree Mart¨ªnez, una aplicaci¨®n concreta en el ¨¢mbito m¨¦dico. Detectar biomarcadores desconocidos, dise?ar efectos terap¨¦uticos personalizados, disminuir las consecuencias negativas de ciertos tratamientos y mejorar la calidad de vida de las personas son algunos de los potenciales usos que el dise?o de los algoritmos podr¨ªan tener si fueran un poco m¨¢s humildes.

Tu suscripci¨®n se est¨¢ usando en otro dispositivo

?Quieres a?adir otro usuario a tu suscripci¨®n?

Si contin¨²as leyendo en este dispositivo, no se podr¨¢ leer en el otro.

?Por qu¨¦ est¨¢s viendo esto?

Flecha

Tu suscripci¨®n se est¨¢ usando en otro dispositivo y solo puedes acceder a EL PA?S desde un dispositivo a la vez.

Si quieres compartir tu cuenta, cambia tu suscripci¨®n a la modalidad Premium, as¨ª podr¨¢s a?adir otro usuario. Cada uno acceder¨¢ con su propia cuenta de email, lo que os permitir¨¢ personalizar vuestra experiencia en EL PA?S.

En el caso de no saber qui¨¦n est¨¢ usando tu cuenta, te recomendamos cambiar tu contrase?a aqu¨ª.

Si decides continuar compartiendo tu cuenta, este mensaje se mostrar¨¢ en tu dispositivo y en el de la otra persona que est¨¢ usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aqu¨ª los t¨¦rminos y condiciones de la suscripci¨®n digital.

Rellena tu nombre y apellido para comentarcompletar datos

M¨¢s informaci¨®n

Archivado En

Recomendaciones EL PA?S
Recomendaciones EL PA?S
Recomendaciones EL PA?S
_
_
seductrice.net
universo-virtual.com
buytrendz.net
thisforall.net
benchpressgains.com
qthzb.com
mindhunter9.com
dwjqp1.com
secure-signup.net
ahaayy.com
tressesindia.com
puresybian.com
krpano-chs.com
cre8workshop.com
hdkino.org
peixun021.com
qz786.com
utahperformingartscenter.org
worldqrmconference.com
shangyuwh.com
eejssdfsdfdfjsd.com
playminecraftfreeonline.com
trekvietnamtour.com
your-business-articles.com
essaywritingservice10.com
hindusamaaj.com
joggingvideo.com
wandercoups.com
wormblaster.net
tongchengchuyange0004.com
internetknowing.com
breachurch.com
peachesnginburlesque.com
dataarchitectoo.com
clientfunnelformula.com
30pps.com
cherylroll.com
ks2252.com
prowp.net
webmanicura.com
sofietsshotel.com
facetorch.com
nylawyerreview.com
apapromotions.com
shareparelli.com
goeaglepointe.com
thegreenmanpubphuket.com
karotorossian.com
publicsensor.com
taiwandefence.com
epcsur.com
mfhoudan.com
southstills.com
tvtv98.com
thewellington-hotel.com
bccaipiao.com
colectoresindustrialesgs.com
shenanddcg.com
capriartfilmfestival.com
replicabreitlingsale.com
thaiamarinnewtoncorner.com
gkmcww.com
mbnkbj.com
andrewbrennandesign.com
cod54.com
luobinzhang.com
faithfirst.net
zjyc28.com
tongchengjinyeyouyue0004.com
nhuan6.com
kftz5k.com
oldgardensflowers.com
lightupthefloor.com
bahamamamas-stjohns.com
ly2818.com
905onthebay.com
fonemenu.com
notanothermovie.com
ukrainehighclassescort.com
meincmagazine.com
av-5858.com
yallerdawg.com
donkeythemovie.com
corporatehospitalitygroup.com
boboyy88.com
miteinander-lernen.com
dannayconsulting.com
officialtomsshoesoutletstore.com
forsale-amoxil-amoxicillin.net
generictadalafil-canada.net
guitarlessonseastlondon.com
lesliesrestaurants.com
mattyno9.com
nri-homeloans.com
rtgvisas-qatar.com
salbutamolventolinonline.net
sportsinjuries.info
wedsna.com
rgkntk.com
bkkmarketplace.com
zxqcwx.com
breakupprogram.com
boxcardc.com
unblockyoutubeindonesia.com
fabulousbookmark.com
beat-the.com
guatemala-sailfishing-vacations-charters.com
magie-marketing.com
kingstonliteracy.com
guitaraffinity.com
eurelookinggoodapparel.com
howtolosecheekfat.net
marioncma.org
oliviadavismusic.com
shantelcampbellrealestate.com
shopleborn13.com
topindiafree.com
v-visitors.net
djjky.com
053hh.com
originbluei.com
baucishotel.com
33kkn.com
intrinsiqresearch.com
mariaescort-kiev.com
mymaguk.com
sponsored4u.com
crimsonclass.com
bataillenavale.com
searchtile.com
ze-stribrnych-struh.com
zenithalhype.com
modalpkv.com
bouisset-lafforgue.com
useupload.com
37r.net
autoankauf-muenster.com
bantinbongda.net
bilgius.com
brabustermagazine.com
indigrow.org
miicrosofts.net
mysmiletravel.com
selinasims.com
spellcubesapp.com
usa-faction.com
hypoallergenicdogsnames.com
dailyupdatez.com
foodphotographyreviews.com
cricutcom-setup.com
chprowebdesign.com
katyrealty-kanepa.com
tasramar.com
bilgipinari.org
four-am.com
indiarepublicday.com
inquick-enbooks.com
iracmpi.com
kakaschoenen.com
lsm99flash.com
nana1255.com
ngen-niagara.com
technwzs.com
virtualonlinecasino1345.com
wallpapertop.net
casino-natali.com
iprofit-internet.com
denochemexicana.com
eventhalfkg.com
medcon-taiwan.com
life-himawari.com
myriamshomes.com
nightmarevue.com
healthandfitnesslives.com
androidnews-jp.com
allstarsru.com
bestofthebuckeyestate.com
bestofthefirststate.com
bestwireless7.com
britsmile.com
declarationintermittent.com
findhereall.com
jingyou888.com
lsm99deal.com
lsm99galaxy.com
moozatech.com
nuagh.com
patliyo.com
philomenamagikz.net
rckouba.net
saturnunipessoallda.com
tallahasseefrolics.com
thematurehardcore.net
totalenvironment-inthatquietearth.com
velislavakaymakanova.com
vermontenergetic.com
kakakpintar.com
jerusalemdispatch.com
begorgeouslady.com
1800birks4u.com
2wheelstogo.com
6strip4you.com
bigdata-world.net
emailandco.net
gacapal.com
jharpost.com
krishnaastro.com
lsm99credit.com
mascalzonicampani.com
sitemapxml.org
thecityslums.net
topagh.com
flairnetwebdesign.com
rajasthancarservices.com
bangkaeair.com
beneventocoupon.com
noternet.org
oqtive.com
smilebrightrx.com
decollage-etiquette.com
1millionbestdownloads.com
7658.info
bidbass.com
devlopworldtech.com
digitalmarketingrajkot.com
fluginfo.net
naqlafshk.com
passion-decouverte.com
playsirius.com
spacceleratorintl.com
stikyballs.com
top10way.com
yokidsyogurt.com
zszyhl.com
16firthcrescent.com
abogadolaboralistamd.com
apk2wap.com
aromacremeria.com
banparacard.com
bosmanraws.com
businessproviderblog.com
caltonosa.com
calvaryrevivalchurch.org
chastenedsoulwithabrokenheart.com
cheminotsgardcevennes.com
cooksspot.com
cqxzpt.com
deesywig.com
deltacartoonmaps.com
despixelsetdeshommes.com
duocoracaobrasileiro.com
fareshopbd.com
goodpainspills.com
hemendekor.com
kobisitecdn.com
makaigoods.com
mgs1454.com
piccadillyresidences.com
radiolaondafresca.com
rubendorf.com
searchengineimprov.com
sellmyhrvahome.com
shugahouseessentials.com
sonihullquad.com
subtractkilos.com
valeriekelmansky.com
vipasdigitalmarketing.com
voolivrerj.com
worldhealthstory.com
zeelonggroup.com
1015southrockhill.com
10x10b.com
111-online-casinos.com
191cb.com
3665arpentunitd.com
aitesonics.com
bag-shokunin.com
brightotech.com
communication-digitale-services.com
covoakland.org
dariaprimapack.com
freefortniteaccountss.com
gatebizglobal.com
global1entertainmentnews.com
greatytene.com
hiroshiwakita.com
iktodaypk.com
jahatsakong.com
meadowbrookgolfgroup.com
newsbharati.net
platinumstudiosdesign.com
slotxogamesplay.com
strikestaruk.com
techguroh.com
trucosdefortnite.com
ufabetrune.com
weddedtowhitmore.com
12940brycecanyonunitb.com
1311dietrichoaks.com
2monarchtraceunit303.com
601legendhill.com
850elaine.com
adieusolasomade.com
andora-ke.com
bestslotxogames.com
cannagomcallen.com
endlesslyhot.com
iestpjva.com
ouqprint.com
pwmaplefest.com
qtylmr.com
rb88betting.com
buscadogues.com
1007macfm.com
born-wild.com
growthinvests.com
promocode-casino.com
proyectogalgoargentina.com
wbthompson-art.com
whitemountainwheels.com
7thavehvl.com
developmethis.com
funkydogbowties.com
travelodgegrandjunction.com
gao-town.com
globalmarketsuite.com
blogshippo.com
hdbka.com
proboards67.com
outletonline-michaelkors.com
kalkis-research.com
thuthuatit.net
buckcash.com
hollistercanada.com
docterror.com
asadart.com
vmayke.org
erwincomputers.com
dirimart.org
okkii.com
loteriasdecehegin.com
mountanalog.com
healingtaobritain.com
ttxmonitor.com
nwordpress.com
11bolabonanza.com