“Hay una gran presión económica para hacer obsoletos a los humanos”. En su libro 'Vida 3.0', el profesor del MIT propone argumentos para un debate global que evite que la llegada de la Inteligencia Artificial acabe en desastre.

Cuando el rey Midas le pidió a Dionisio transformar en oro todo lo que tocase cometió un fallo de programación. No pensaba que el dios sería tan literal al concederle el deseo y solo fue consciente de su error cuando vio a su hija convertida en una estatua metálica. Max Tegmark (Estocolmo, 1967) cree que la inteligencia artificial puede presentar riesgos y oportunidades similares para la humanidad.

El profesor del MIT y director del Future of Life Institute en Cambridge (EE UU) estima que la llegada de una Inteligencia Artificial General (IAG) que supere a la humana es cuestión de décadas. En su visión del futuro, podríamos acabar viviendo en una civilización idílica donde robots superinteligentes harían nuestro trabajo, crearían curas para todas nuestras enfermedades o diseñasen sistemas para ordeñar la energía descomunal de los agujeros negros. Sin embargo, si no somos capaces de transmitirle nuestros objetivos con precisión, también es posible que a esa nueva inteligencia dominante no le interese nuestra supervivencia o, incluso, que asuma un objetivo absurdo como transformar en clips metálicos todos los átomos del universo, los que conforman nuestros cuerpos incluidos.

Para evitar el apocalipsis, Tegmark considera que la comunidad global debe implicarse en un debate para orientar el desarrollo de la inteligencia artificial en nuestro beneficio. Esta discusión deberá afrontar problemas concretos, como la gestión de las desigualdades generadas por la automatización del trabajo, pero también un intenso esfuerzo filosófico que triunfe donde llevamos siglos fracasando y permita definir y acordar qué es bueno para toda la humanidad para después inculcárselo a las máquinas.

Estos y otros temas relacionados con la discusión que Tegmark considera más importante para el futuro de la humanidad son los que recoge en su libro Vida 3.0: ser humano en la era de la inteligencia artificial, un ambicioso ensayo que han recomendado gurús como Elon Musk en el que el cosmólogo sueco trata de adelantarse a lo que puede suceder durante los próximos milenios.

Pregunta. Los humanos, en particular durante los últimos dos o tres siglos, hemos tenido mucho éxito comprendiendo el mundo físico, gracias al avance de disciplinas como la física o la química, pero no parece que hayamos sido tan eficaces entendiéndonos a nosotros mismos, averiguando cómo ser felices o llegando a acuerdos sobre cómo hacer un mundo mejor para todo el mundo. ¿Cómo vamos a dirigir los objetivos de la IAG sin alcanzar antes acuerdos sobre estos asuntos?

Respuesta. Creo que nuestro futuro puede ser muy interesante si ganamos la carrera entre el poder creciente de la tecnología y la sabiduría con la que se gestiona esa tecnología. Para conseguirlo, tenemos que cambiar estrategias. Nuestra estrategia habitual consistía en aprender de nuestros errores. Inventamos el fuego, la fastidiamos unas cuantas veces y después inventamos el extintor; inventamos el coche, la volvimos a fastidiar varias veces e inventamos el cinturón de seguridad y el airbag. Pero con una tecnología tan potente como las armas atómicas o la inteligencia artificial sobrehumana no vamos a poder aprender de nuestros errores. Tenemos que ser proactivos.

Es muy importante que no dejemos las discusiones sobre el futuro de la IA a un grupo de frikis de la tecnología como yo sino que incluyamos a psicólogos, sociólogos o economistas para que participen en la conversación. Porque si el objetivo es la felicidad humana, tenemos que estudiar qué significa ser feliz. Si no hacemos eso, las decisiones sobre el futuro de la humanidad las tomarán unos cuantos frikis de la tecnología, algunas compañías tecnológicas o algunos Gobiernos, que no van a ser necesariamente los mejor cualificados para tomar estas decisiones para toda la humanidad.

P. ¿La ideología o la forma de ver el mundo de las personas que desarrollen la inteligencia artificial general definirá el comportamiento de esa inteligencia?
R. Muchos de los líderes tecnológicos que están construyendo la IA son muy idealistas. Quieren que esto sea algo bueno para toda la humanidad. Pero si se mira a las motivaciones de las compañías que están desarrollando la IA, la principal es ganar dinero. Siempre harás más dinero si reemplazas humanos por máquinas que puedan hacer los mismos productos más baratos. No haces más dinero diseñando una IA que es más bondadosa. Hay una gran presión económica para hacer que los humanos sean obsoletos.

La segunda gran motivación entre los científicos es la curiosidad. Queremos ver cómo se puede hacer una inteligencia artificial por ver cómo funciona, a veces sin pensar demasiado en las consecuencias. Logramos construir armas atómicas porque había gente con curiosidad por saber cómo funcionaban los núcleos atómicos. Y después de inventarlo, muchos de aquellos científicos desearon no haberlo hecho, pero ya era demasiado tarde, porque para entonces ya había otros intereses controlando ese conocimiento.

P. En el libro parece que da por hecho que la IA facilitará la eliminación de la pobreza y el sufrimiento. Con la tecnología y las condiciones económicas actuales, ya tenemos la posibilidad de evitar una gran cantidad de sufrimiento, pero no lo hacemos porque no nos interesa lo suficiente o no le interesa a la gente con el poder necesario para conseguirlo. ¿Cómo podemos evitar que eso suceda cuando tengamos los beneficios de la inteligencia artificial?
R. En primer lugar, la tecnología misma puede ser muy útil de muchas maneras. Cada año hay mucha gente que muere en accidentes de tráfico que probablemente no morirían si fuesen en coches autónomos. Y hay más gente en América, diez veces más, que mueren en accidentes hospitalarios. Muchos de esos se podrían salvar con IA si se utilizase para diagnosticar mejor o crear mejores medicinas. Todos los problemas que no hemos sido capaces de resolver debido a nuestra limitada inteligencia es algo que podría resolver la IA. Pero eso no es suficiente. Como dice, ahora mismo tenemos muchos problemas que sabemos exactamente cómo resolver, como el hecho de que haya niños que vivan en países ricos y no estén bien alimentados. No es un problema tecnológico, es un problema de falta de voluntad política. Esto muestra lo importante de que la gente participe en esta discusión y seleccionemos las prioridades correctas.

Por ejemplo, en España, el Gobierno español ha rechazado unirse a Austria y muchos otros países en la ONU en un intento para prohibir las armas letales autónomas. España apoyó la prohibición de armas biológicas, algo que apoyaban los científicos de esa área, pero no han hecho lo mismo para apoyar a los expertos en IA. Esto es algo que la gente puede hacer: Animar a sus políticos para que afronten estos asuntos y nos aseguremos de que dirigimos la tecnología en la dirección adecuada.

P. La conversación que propone en Vida 3.0 sobre la Inteligencia Artificial en el fondo es muy parecida a la que se debería tener sobre política en general, sobre cómo convivimos entre nosotros o como compartimos los recursos. ¿Cómo crees que el cambio en la situación tecnológica va a cambiar el debate público?
R. Creo que va a hacer las cosas más drásticas. Los cambios producidos por la ciencia se están acelerando, todo tipo de trabajos desaparecerán cada vez más rápido. Muchos se ríen de la gente que votó a Trump o a favor del Brexit, pero su rabia es muy real y los economistas te dirán que las razones por las que esta gente está enfadada, por ser más pobres de lo que eran sus padres, son reales. Y mientras no se haga nada para resolver estos problemas reales, su enfado aumentará.

La Inteligencia Artificial puede crear una cantidad enorme de nueva riqueza, no se trata de un juego de suma cero. Si nos convencemos de que va a haber suficientes impuestos para proporcionar servicios sociales y unos ingresos básicos, todo el mundo estará feliz en lugar de enfadado. Hay gente a favor de la Renta Básica Universal, pero es posible que haya mejores formas de resolver el problema. Si los gobiernos van a dar dinero a la gente solo para apoyarles, también se lo puede dar para que la gente trabaje como enfermeros o como profesoras, el tipo de trabajos que se sabe que dan un propósito a la vida de la gente, conexiones sociales...

No podemos volver a los criterios de distribución del Egipto de los faraones, en los que todo estaba en manos de un puñado de individuos, pero si una sola compañía puede desarrollar una inteligencia artificial general, es solo cuestión de tiempo que esa compañía posea casi todo. Si la gente que acumule este poder no quiere compartirlo el futuro será complicado.

P. Si no hacemos nada, ¿cuál serían las principales amenazas provocadas por el desarrollo de la IA?
R. En los próximos tres años comenzaremos una nueva carrera armamentística con armas letales autónomas. Se producirán de forma masiva por los superpoderes y en poco tiempo organizaciones como ISIS podrán tenerlas. Serán los AK-47 del futuro salvo que en este caso son máquinas perfectas para perpetrar asesinatos anónimos. En diez años, si no hacemos nada, vamos a ver más desigualdad económica. Y por último, hay mucha polémica sobre el tiempo necesario para crear una inteligencia artificial general, pero más de la mitad de los investigadores en IA creen que sucederá en décadas. En 40 años nos arriesgamos a perder completamente el control del planeta a manos de un pequeño grupo de gente que desarrolle la IA. Ese es el escenario catastrófico. Para evitarlo necesitamos que la gente se una a la conversación.

https://elpais.com/elpais/2018/08/07/ciencia/1533664021_662128.html

“La gente, estadísticamente, está mejor, pero hay una tremenda cantidad de sufrimiento individual”
“Los expertos se equivocan sistemáticamente”

La Justicia no investigó al torero e hijo de la diputada del PP que pidió convertir en “abono para las cunetas” a los de Podemos

El pasado miércoles, la Audiencia Nacional condenaba a Cassandra -también conocida como Kira_95 en los fueros tuiteros-, a un año de prisión por un delito de humillación a las víctimas y de "enaltecimiento del terrorismo". A raíz de su condena, ELPLURAL.COM ha recordado a la Audiencia Nacional los tuits más bestias contra PSOE, Podemos e IU que dejaron 'pasar por alto'. Son las otras amenazas en redes sociales que la fiscalía nunca ha perseguido y que evidencian la existencia de un doble rasero judicial que varía en función de la ideología del protagonista que recibe los insultos y ataques en Twitter.

Entre las amenazas más destacadas y que nunca investigó la Justicia destaca la protagonizada por parte del torero e hijo de la diputada en la Asamblea de Madrid, María Josefa Aguado, Gabriel Picazo, en abril de 2014. En concreto, el torero lanzó la siguiente advertencia: “Querremos convertir en abono para las cunetas a toda esa panda de rojos radicales”.

Advertencia a Podemos
Un aviso que Picazo publicó en su página oficial de Facebook a los dirigentes de Podemos por llevar en su programa electoral la abolición de la tauromaquia. En la misma publicación, el torero advertía que no estarían exentos de convertirse en abono para las cunetas las “personas humildes y desesperadas que se dejen llevar por el populismo y el clima de corruptos que hay en España” y por tanto acabasen votando en las urnas al partido que lidera Pablo Iglesias.

Tras ser desvelado por ELPLURAL.COM, el comentario de Gabriel Picazo se convirtió en tendencia en Twitter. En parte debido a que Picazo es hijo de María Josefa Aguado, concejala presidenta del Distrito madrileño de Barajas, exportavoz del Partido Popular de San Sebastián de los Reyes, e integrante en el puesto 39 en la lista del PP con la que Cristina Cifuentes se presentó a la Comunidad de Madrid. Se trata de la diputada autonómica que ahora se enfrenta a la Justicia por el ‘caso Gürtel’.

Disculpas y justificación de las amenazas
Tres días después del escándalo, el torero pidió disculpas también a través de Facebook: “Pido disculpas por parte de las palabras dichas en un desafortunado y equivocado comentario. Mi corazón no les desea el mal que ellos quiere para los taurinos. Me reitero en mi error”, afirmó Picazo. Sin embargo, a renglón seguido, el torero justificó sus amenazas ante la pasividad de la Justicia: “Mis palabras nacen de un sentimiento de indefensión, humillación, miedo, acoso y maltrato que sentimos muchos taurinos. Es el grito de la agonía de la muerte en vida a la que los radicales antitaurinos nos tienen sometidos apuntillándonos diariamente sin obtener una respuesta contundente de los que formamos parte de la fiesta más importante y representativa por la que se conoce a España en el mundo”.

http://www.elplural.com/…/la-justicia-no-investigo-al-torer…

El PP responde a Ruz. Las amenazas de quien tiene el poder nunca son gratuitas. Ejercer la independencia judicial parece un oficio de alto riesgo.

El pasado 23 de Marzo, un auto del juez Ruz afirmó que el PP tuvo una caja B en su contabilidad durante 18 años, imputó a Bárcenas, Lapuerta y Páez como presuntos autores de un delito contra la Hacienda Pública y, seguidamente, declaró al PP responsable civil subsidiario por el delito atribuido a sus empleados. Es decir, que el PP deberá pagar las responsabilidades civiles que se exijan a Bárcenas y demás acusados, si estos no pagan.

El auto describe meticulosamente que los imputados recibían dinero en efectivo, pese a que la ley exige que se ingrese en cuentas corrientes de entidades de crédito abiertas exclusivamente pare ese fin. Lo entregaban personalmente individuos vinculados con sociedades del sector de la construcción, en su mayoría adjudicatarias de contratos públicos. Este dinero se ingresaba fraccionando las entregas para no superar los límites legalmente establecidos. Con la misma meticulosa precisión, el auto describe el destino del dinero: retribuciones y sueldos complementarios del partido, campañas electorales y gastos de la formación política —incluidas las obras en la sede central y otras— y servicios especiales como el de una presentadora de TV por participar en un acto del PP o o del Instituto de Estudios Sociales de Pedro Arriola. Esos ingresos y gastos quedaban al margen de la contabilidad oficial del Partido y presentada ante el Tribunal de Cuentas.

El juez, conforme con el criterio del fiscal y de la Audiencia, argumenta que esas donaciones y esos gastos, destinados a pagos fiscalmente opacos y ajenos a la contabilidad oficial, no cumplen con el requisito de transparencia legalmente establecido, por lo cual no están exentas de tributación.

El mismo día 23 de marzo, el PP hizo pública una nota de prensa en la que niega la existencia de la caja B, niega que exista obligación de tributar por lo que denomina “las supuestas donaciones que desconocía” y a continuación afirma que las donaciones a los partidos políticos siempre han estado exentas de tributación del impuesto de sociedades. La nota expresa una indisimulada irritación ante la osadía del juez, capaz de importunar al partido del gobierno, que, al parecer, se cree intangible e infalible. Y, en consecuencia, en el quinto y último apartado de la nota, el PP decía lo siguiente: “Con el debido respeto a las decisiones judiciales, el PP se reserva las acciones legales que le correspondan, en el ejercicio de su derecho de defensa, en el momento procesal oportuno”.

Como el mundo del derecho, de los procesos y de los leguleyos es tan endemoniadamente abstruso, críptico y ambiguo, conviene hacer un breve comentario sobre lo que el PP ha podido querer decir, o dejar dicho, con eso de “se reserva las acciones legales”.

Ejercer una acción legal es comparecer ante un juzgado o tribunal, con el correspondiente abogado, iniciando un proceso con la pretensión de obtener una condena, una declaración de derechos o cualquier otra tutela judicial. La acción legal es, necesariamente, contra alguien. La reserva de las acciones legales que anuncia el PP significa que se guarda para un momento posterior la posibilidad de acudir a un juzgado para actuar contra alguien. ¿Contra quien? Pues, lógicamente, si la nota quiere desautorizar al juez, será contra él contra quien ejercerá las acciones legales, en el momento procesal oportuno.

No era oportuno el momento en que el PP intentó colarse en el proceso fingiendo querer ser acusador, para defender sus propios intereses y ocultar sus irregularidades, ayudando subrepticiamente a Bárcenas en los primeros momentos. Su impostura quedó al descubierto y fue expulsado del proceso como acusador. Ahora su único derecho de defensa en este asunto consiste en defenderse como responsable civil, porque se le exigirá pagar lo que no paguen Bárcenas y compañía. Por lo tanto no será en este proceso, sino en otro, donde podrá ejercer las anunciadas acciones legales contra Ruz. Sin demasiados disimulos, está mandando un preocupante recado al juez. Parece estar diciéndole “Tu actuación contra el PP fracasará, y cuando acabe todo esto vamos a por ti”. Ante tan excesiva advertencia, expresiones de la nota tales como “con el debido respeto a las decisiones judiciales” y “en el ejercicio del derecho de defensa”, resultan hipócritas e inútiles.

Las acciones legales pueden ser acciones penales, en cuyo caso irían dirigidas a conseguir la condena de Ruz como prevaricador, con expulsión de la carrera judicial, y, posiblemente, además, pueden ser civiles para reclamarle una indemnización millonaria, insoportable con los ingresos de un funcionario público.

A primera vista esta amenaza debería parecer inviable, pero es escalofriante recordar recientes experiencias de otros jueces. Las veladas amenazas de quien tiene el poder nunca son gratuitas. Ejercer la independencia judicial en estos tiempos parece un oficio de alto riesgo.
Josep Maria Mena fue fiscal jefe del Tribunal Superior de Justicia de Cataluña. El País.
http://ccaa.elpais.com/ccaa/2015/04/03/catalunya/1428085451_353640.html

PETRA PAU | VICEPRESIDENTA DEL BUNDESTAG, AMENAZADA. “No son casos aislados. Alemania tiene un problema social”. Pau ha recibido amenazas por apoyar la construcción de un centro de refugiados en Berlín

Petra Pau (Berlín, 1963) sabe que su actividad como política puede generar críticas, pero pone un límite en la privacidad de su familia. Tras meses recibiendo amenazas por apoyar la construcción de un centro de refugiados en el barrio berlinés de Marzahn, un centenar de ultras violó ese límite al manifestarse, con el consentimiento de la policía, frente a la casa de Pau, vicepresidenta del Bundestag (la Cámara baja del Parlamento alemán) y diputada de La Izquierda (Die Linke).

Pregunta. Amenazas, ataques a albergues... ¿Qué ocurre en Alemania?
Respuesta. Hace décadas que los nazis tratan de intimidar a políticos, periodistas o representantes de la sociedad civil con frases del tipo ‘sé dónde vives’ o manifestaciones frente al trabajo o la vivienda. No es nada nuevo, pero se ha agravado en los últimos meses con las protestas contra los refugios o movimientos como Pegida.

P. Pide más protección. ¿Hacen falta nuevas leyes?
R. No, simplemente necesitamos otra sensibilidad, tanto por parte de la opinión pública como por las fuerzas de seguridad. Hay que proteger el derecho de manifestación, pero se puede trasladar a otro lugar cuando queda claro que se dirigen contra personas concretas. No se respetó la inviolabilidad del domicilio del alcalde de Tröglitz, que dimitió porque ni él ni su familia se sentían seguros.

P. El alcalde se ha quejado de la falta de solidaridad de la sociedad. ¿Comparte esta opinión?
R. No puedo valorar la situación de Tröglitz. Pero a diferencia de los noventa, cuando tuvimos una situación muy complicada, veo mucha más solidaridad de la población. Aunque me gustaría ver esa solidaridad en los políticos no solo cuando ocurre algo peligroso, sino en el día a día de las personas que trabajan con los asilados.

P. No ve entonces una falta de solidaridad.
R. Tenemos un problema social, sí. Aumentan los asaltos a centros, asistimos a protestas como las de Pegida, con ciudadanos que hace uno o dos años nunca se habrían manifestado con personas identificadas por la policía como de extrema derecha. Aumentan la hostilidad y la aceptación de la violencia, pero también hay un movimiento en contra. Por eso critico a los políticos de partidos democráticos que hablan de casos aislados. Tenemos un problema social en todo el país.

P. ¿Qué le dice a los vecinos preocupados por la llegada de refugiados?...
http://internacional.elpais.com/internacional/2015/03/16/actualidad/1426535418_018116.html?rel=rosEP