_
_
_
_
Tribuna
Artículos estrictamente de opinión que responden al estilo propio del autor. Estos textos de opinión han de basarse en datos verificados y ser respetuosos con las personas aunque se critiquen sus actos. Todas las tribunas de opinión de personas ajenas a la Redacción de EL PA?S llevarán, tras la última línea, un pie de autor —por conocido que éste sea— donde se indique el cargo, título, militancia política (en su caso) u ocupación principal, o la que esté o estuvo relacionada con el tema abordado

Inteligencia artificial y sesgo algorítmico

?Cómo podemos equilibrar la necesidad de algoritmos más precisos con la necesidad de transparencia hacia las personas que están siendo afectadas por los posibles sesgos?

Ordenadores en la Bolsa de Seúl.
Ordenadores en la Bolsa de Seúl.Lee Jin-man (AP)

En 1936, Literary Digest, una influyente revista estadounidense de interés general, publicó una encuesta sobre predisposición del voto americano para las elecciones presidenciales de ese mismo a?o. En ella, vaticinaba una victoria aplastante de Alf Landon (candidato republicano) sobre Franklin D. Roosevelt.

Imprevisiblemente, Franklin D. Roosevelt fue elegido con el 61% de votos. Esto condujo al declive de Literary Digest y al posterior cierre de la revista.

Para su encuesta, Literary Digest utilizó listas de los propietarios de automóviles y de teléfonos fijos. Tenemos aquí un claro ejemplo de sesgo algorítmico, puesto que el automóvil y el teléfono eran, en aquellos a?os, indicativos de nivel económico superior al estadounidense medio, por lo que el modelo de predicción de voto resultó claramente sesgado a favor del voto republicano (las grandes fortunas votan más a los republicanos).

De la misma forma, los algoritmos de aprendizaje automático dependen de los datos de entrenamiento que se les suministren. De esta manera, estos algoritmos pueden reflejar, o incluso ampliar, los sesgos que están presentes en los datos.

Los algoritmos de aprendizaje automático dependen de los datos de entrenamiento que se les suministren. De esta manera, estos algoritmos pueden reflejar, o incluso ampliar, los sesgos que están presentes en los datos

Si un algoritmo se entrena con datos racistas o sexistas, las predicciones resultantes también reflejarán esto. Es por ello que los algoritmos intentan evitar variables obviamente problemáticas como, por ejemplo, la raza. Ningún banco querría una denuncia de un colectivo por denegación de hipotecas por el simple hecho del color de su piel. No obstante, incluso si se excluye el concepto de raza de los algoritmos, otras variables pueden producir el mismo resultado sesgado. En este caso puede ser el código postal. Si se utiliza para determinar mejores o peores condiciones crediticias, podríamos estar excluyendo del acceso a crédito a barriadas enteras con un alto número de personas de la misma raza y además predominantemente pobres.

Encontrar una respuesta a cuáles son las variables sustitutas correctas -también llamadas procuradoras de tal información- y determinar cuándo una predicción o decisión está afectada por un sesgo algorítmico puede no ser fácil, ya que:

? Si el algoritmo de aprendizaje automático se basa en una red neuronal complicada hace muy buenas predicciones, pero en realidad no es capaz de explicar por qué hizo una predicción particular, por lo que puede resultar casi imposible entender por qué, o incluso cómo, el algoritmo emite su juicio.

? Por otro lado, los métodos de aprendizaje basados en árboles de decisión o las redes bayesianas son mucho más transparentes para la inspección, pero existe el hecho de que las compa?ías no van a permitir que sus algoritmos sean examinados públicamente.

?Cómo podemos equilibrar la necesidad de algoritmos más precisos con la necesidad de transparencia hacia las personas que están siendo afectadas por los posibles sesgos? Si es necesario, ?estamos dispuestos a sacrificar la precisión por la transparencia?

Porque ligado con la precisión del algoritmo vemos otro criterio social importante a tratar: encontrar a la persona o entidad responsable del “error” del modelo. Es decir ?podemos determinar quién es el responsable cuando un sistema falla en su tarea asignada?

Se puede citar el primer atropello mortal de un coche sin conductor acontecido en marzo de 2018. ?Sobre quién ha de recaer la responsabilidad? ?Sobre la empresa due?a del coche? ?O son los programadores y los científicos de datos culpables? ?Tal vez los usuarios finales? ?Influiría ese conocimiento en la decisión de compra de un coche u otro sabiendo que pase lo que pase no es nuestra responsabilidad? ?Y si fuera nuestra responsabilidad?

Realmente los humanos desconocemos nuestros verdaderos motivos para actuar y cómo actuar. ?Quién sabe seguro qué decisión tomaría dado el caso de estrellarse o no contra algo o alguien estando en juego su vida y la de su familia? ?Deberíamos exigir que las máquinas sean mejores en esto de lo que realmente somos?

El desafío, por lo tanto, es establecer algoritmos que produzcan un comportamiento ético (o que los humanos, en términos generales, podamos aceptar como ético).

Para estos nuevos requisitos en el dise?o de inteligencia artificial, necesitamos encontrar la legislación apropiada en este campo. Y antes se deben producir debates éticos públicos al respecto. Unir, desde ya, las implicaciones éticas al desarrollo de nuevas tecnologías es una clara necesidad en todos los sectores donde queramos aplicar los nuevos modelos de inteligencia artificial.

Rocío Pérez es especialista en soluciones Big Data en Oracle Ibérica y profesora de Data Science en MIOTI?

Tu suscripción se está usando en otro dispositivo

?Quieres a?adir otro usuario a tu suscripción?

Si continúas leyendo en este dispositivo, no se podrá leer en el otro.

?Por qué estás viendo esto?

Flecha

Tu suscripción se está usando en otro dispositivo y solo puedes acceder a EL PA?S desde un dispositivo a la vez.

Si quieres compartir tu cuenta, cambia tu suscripción a la modalidad Premium, así podrás a?adir otro usuario. Cada uno accederá con su propia cuenta de email, lo que os permitirá personalizar vuestra experiencia en EL PA?S.

En el caso de no saber quién está usando tu cuenta, te recomendamos cambiar tu contrase?a aquí.

Si decides continuar compartiendo tu cuenta, este mensaje se mostrará en tu dispositivo y en el de la otra persona que está usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aquí los términos y condiciones de la suscripción digital.

Más información

Archivado En

Recomendaciones EL PA?S
Recomendaciones EL PA?S
Recomendaciones EL PA?S
_
_
seductrice.net
universo-virtual.com
buytrendz.net
thisforall.net
benchpressgains.com
qthzb.com
mindhunter9.com
dwjqp1.com
secure-signup.net
ahaayy.com
tressesindia.com
puresybian.com
krpano-chs.com
cre8workshop.com
hdkino.org
peixun021.com
qz786.com
utahperformingartscenter.org
worldqrmconference.com
shangyuwh.com
eejssdfsdfdfjsd.com
playminecraftfreeonline.com
trekvietnamtour.com
your-business-articles.com
essaywritingservice10.com
hindusamaaj.com
joggingvideo.com
wandercoups.com
wormblaster.net
tongchengchuyange0004.com
internetknowing.com
breachurch.com
peachesnginburlesque.com
dataarchitectoo.com
clientfunnelformula.com
30pps.com
cherylroll.com
ks2252.com
prowp.net
webmanicura.com
sofietsshotel.com
facetorch.com
nylawyerreview.com
apapromotions.com
shareparelli.com
goeaglepointe.com
thegreenmanpubphuket.com
karotorossian.com
publicsensor.com
taiwandefence.com
epcsur.com
southstills.com
tvtv98.com
thewellington-hotel.com
bccaipiao.com
colectoresindustrialesgs.com
shenanddcg.com
capriartfilmfestival.com
replicabreitlingsale.com
thaiamarinnewtoncorner.com
gkmcww.com
mbnkbj.com
andrewbrennandesign.com
cod54.com
luobinzhang.com
faithfirst.net
zjyc28.com
tongchengjinyeyouyue0004.com
nhuan6.com
kftz5k.com
oldgardensflowers.com
lightupthefloor.com
bahamamamas-stjohns.com
ly2818.com
905onthebay.com
fonemenu.com
notanothermovie.com
ukrainehighclassescort.com
meincmagazine.com
av-5858.com
yallerdawg.com
donkeythemovie.com
corporatehospitalitygroup.com
boboyy88.com
miteinander-lernen.com
dannayconsulting.com
officialtomsshoesoutletstore.com
forsale-amoxil-amoxicillin.net
generictadalafil-canada.net
guitarlessonseastlondon.com
lesliesrestaurants.com
mattyno9.com
nri-homeloans.com
rtgvisas-qatar.com
salbutamolventolinonline.net
sportsinjuries.info
wedsna.com
rgkntk.com
bkkmarketplace.com
zxqcwx.com
breakupprogram.com
boxcardc.com
unblockyoutubeindonesia.com
fabulousbookmark.com
beat-the.com
guatemala-sailfishing-vacations-charters.com
magie-marketing.com
kingstonliteracy.com
guitaraffinity.com
eurelookinggoodapparel.com
howtolosecheekfat.net
marioncma.org
oliviadavismusic.com
shantelcampbellrealestate.com
shopleborn13.com
topindiafree.com
v-visitors.net
djjky.com
053hh.com
originbluei.com
baucishotel.com
33kkn.com
intrinsiqresearch.com
mariaescort-kiev.com
mymaguk.com
sponsored4u.com
crimsonclass.com
bataillenavale.com
searchtile.com
ze-stribrnych-struh.com
zenithalhype.com
modalpkv.com
bouisset-lafforgue.com
useupload.com
37r.net
autoankauf-muenster.com
bantinbongda.net
bilgius.com
brabustermagazine.com
indigrow.org
miicrosofts.net
mysmiletravel.com
selinasims.com
spellcubesapp.com
usa-faction.com
hypoallergenicdogsnames.com
dailyupdatez.com
foodphotographyreviews.com
cricutcom-setup.com
chprowebdesign.com
katyrealty-kanepa.com
tasramar.com
bilgipinari.org
four-am.com
indiarepublicday.com
inquick-enbooks.com
iracmpi.com
kakaschoenen.com
lsm99flash.com
nana1255.com
ngen-niagara.com
technwzs.com
virtualonlinecasino1345.com
wallpapertop.net
casino-natali.com
iprofit-internet.com
denochemexicana.com
eventhalfkg.com
medcon-taiwan.com
life-himawari.com
myriamshomes.com
nightmarevue.com
healthandfitnesslives.com
androidnews-jp.com
allstarsru.com
bestofthebuckeyestate.com
bestofthefirststate.com
bestwireless7.com
britsmile.com
declarationintermittent.com
findhereall.com
jingyou888.com
lsm99deal.com
lsm99galaxy.com
moozatech.com
nuagh.com
patliyo.com
philomenamagikz.net
rckouba.net
saturnunipessoallda.com
tallahasseefrolics.com
thematurehardcore.net
totalenvironment-inthatquietearth.com
velislavakaymakanova.com
vermontenergetic.com
kakakpintar.com
begorgeouslady.com
1800birks4u.com
2wheelstogo.com
6strip4you.com
bigdata-world.net
emailandco.net
gacapal.com
jharpost.com
krishnaastro.com
lsm99credit.com
mascalzonicampani.com
sitemapxml.org
thecityslums.net
topagh.com
flairnetwebdesign.com
rajasthancarservices.com
bangkaeair.com
beneventocoupon.com
noternet.org
oqtive.com
smilebrightrx.com
decollage-etiquette.com
1millionbestdownloads.com
7658.info
bidbass.com
devlopworldtech.com
digitalmarketingrajkot.com
fluginfo.net
naqlafshk.com
passion-decouverte.com
playsirius.com
spacceleratorintl.com
stikyballs.com
top10way.com
yokidsyogurt.com
zszyhl.com
16firthcrescent.com
abogadolaboralistamd.com
apk2wap.com
aromacremeria.com
banparacard.com
bosmanraws.com
businessproviderblog.com
caltonosa.com
calvaryrevivalchurch.org
chastenedsoulwithabrokenheart.com
cheminotsgardcevennes.com
cooksspot.com
cqxzpt.com
deesywig.com
deltacartoonmaps.com
despixelsetdeshommes.com
duocoracaobrasileiro.com
fareshopbd.com
goodpainspills.com
hemendekor.com
kobisitecdn.com
makaigoods.com
mgs1454.com
piccadillyresidences.com
radiolaondafresca.com
rubendorf.com
searchengineimprov.com
sellmyhrvahome.com
shugahouseessentials.com
sonihullquad.com
subtractkilos.com
valeriekelmansky.com
vipasdigitalmarketing.com
voolivrerj.com
zeelonggroup.com
1015southrockhill.com
10x10b.com
111-online-casinos.com
191cb.com
3665arpentunitd.com
aitesonics.com
bag-shokunin.com
brightotech.com
communication-digitale-services.com
covoakland.org
dariaprimapack.com
freefortniteaccountss.com
gatebizglobal.com
global1entertainmentnews.com
greatytene.com
hiroshiwakita.com
iktodaypk.com
jahatsakong.com
meadowbrookgolfgroup.com
newsbharati.net
platinumstudiosdesign.com
slotxogamesplay.com
strikestaruk.com
trucosdefortnite.com
ufabetrune.com
weddedtowhitmore.com
12940brycecanyonunitb.com
1311dietrichoaks.com
2monarchtraceunit303.com
601legendhill.com
850elaine.com
adieusolasomade.com
andora-ke.com
bestslotxogames.com
cannagomcallen.com
endlesslyhot.com
iestpjva.com
ouqprint.com
pwmaplefest.com
qtylmr.com
rb88betting.com
buscadogues.com
1007macfm.com
born-wild.com
growthinvests.com
promocode-casino.com
proyectogalgoargentina.com
wbthompson-art.com
whitemountainwheels.com
7thavehvl.com
developmethis.com
funkydogbowties.com
travelodgegrandjunction.com
gao-town.com
globalmarketsuite.com
blogshippo.com
hdbka.com
proboards67.com
outletonline-michaelkors.com
kalkis-research.com
thuthuatit.net
buckcash.com
hollistercanada.com
docterror.com
asadart.com
vmayke.org
erwincomputers.com
dirimart.org
okkii.com
loteriasdecehegin.com
mountanalog.com
healingtaobritain.com
ttxmonitor.com
nwordpress.com
11bolabonanza.com