5 claves sobre el conflicto entre Musk y Zuckerberg sobre la IA. - Facebook apaga una inteligencia artificial que había creado su propio lenguaje
El CEO de la red social más grande del mundo y el director de varias compañías tecnológicas, como Tesla y SpaceX se han enfrascado en una discusión acerca de los alcances de una de las tecnologías que está despuntando en muchas áreas de la vida humana: la Inteligencia Artificial (IA).
En las últimas semanas Twitter y Silicon Valley han sido los escenarios de una disputa entre dos gigantes de la tecnología: Mark Zuckerberg y Elon Musk. El CEO de la red social más grande del mundo y el director de varias compañías tecnológicas, como Tesla y SpaceX se han enfrascado en una discusión acerca de los alcances de una de las tecnologías que está despuntando en muchas áreas de la vida humana: la Inteligencia Artificial (IA).
Mientras que para Musk, es preciso regular la Inteligencia Artificial para que ésta no llegue a afectar a la especie humana; para Zuckerberg, las predicciones apocalípticas sobre la Inteligencia Artificial y su regulación no tienen sustento alguno. Para el CEO de Facebook, la Inteligencia Artificial servirá para salvar millones de vidas en todo el mundo.
Éstas son algunas claves para entender el conflicto entre Elon Musk y Mark Zuckerberg:
1. Elon Musk busca regular la Inteligencia Artificial
En febrero pasado, el fundador de Tesla, Elon Musk, y el físico y cosmólogo Stephen Hawking firmaron los Principios Asilomar para la Inteligencia Artificial, elaborados por el Instituto por el Futuro de la Vida (FLI, por su sigla en inglés), los cuales tienen como sus principales objetivos la evaluación del impacto económico de la Inteligencia Artificial (IA) para evitar la eliminación de puestos de trabajo, las cuestiones éticas cuando se trata de automóviles autodirigidos y el control humano sobre los sistemas de armas, de acuerdo con el Silicon Valley Business Journal. (https://www.bizjournals.com/sanjose/news/2017/02/01/elon-musk-stephen-ha...)
“Debido al gran potencial de la IA, es importante investigar cómo aprovechar sus beneficios al tiempo que evitar las trampas potenciales", dijo Musk en una carta abierta que escribió junto con Hawking en el 2016, para después donar 10 millones de dólares al FLI. Hace unas semanas el fundador de empresas tecnológicas como Tesla, A Boring Company y SpaceX, volvió a pronunciarse acerca de una necesaria regulación de la IA, debido a que ésta representa “un riesgo fundamental para la existencia de la civilización humana”, según Silicon Valley Business Journal. “He estado expuesto a la vanguardia de la IA, y creo que la gente debería estar realmente preocupada por ella”, comentó Musk en la reunión de verano de la Asociación Nacional de Gobernadores, según la publicación (https://www.bizjournals.com/sanjose/news/2017/07/17/tesla-elon-musk-ai-f...) .
El 23 de julio pasado, el fundador y CEO de Facebook, Mark Zuckerberg, contestó varias preguntas de sus seguidores en el servicio de video de la red Facebook Live. Entre las preguntas, un usuario realizó una sobre las declaraciones de Musk acerca de los riesgos que conlleva la Inteligencia Artificial y las regulaciones que esta tecnología requiere. “Tengo opiniones bastante fuertes sobre esto, soy optimista y creo que las personas que son negativas y tratan de difundir estos escenarios apocalípticos —yo solo, no lo entiendo, es realmente negativo y de alguna manera creo que es bastante irresponsable”, respondió Zuckerberg.
El director de la red social con más usuarios del mundo dijo estar cansado del miedo que genera la tecnología futurista, además comentó que la Inteligencia Artificial será la responsable de diagnosticar enfermedades con más eficiencia o de mejorar la conducción de automóviles. “Siempre que escucho a la gente diciendo que la IA va a lastimar a la gente en el futuro, creo que sí, ya sabes, la tecnología generalmente se puede usar siempre para lo bueno y lo malo, y tienes que ser cuidadoso sobre cómo construirla, con lo que construyes y cómo va a ser utilizado ", dijo Zuckerberg.
3. ¿Facebook es una empresa de Inteligencia Artificial?
Además de ser la red social más grande del mundo, Facebook, junto con otros gigantes de la tecnología, están luchando para desarrollar lo más rápidamente posible la Inteligencia Artificial. Zuckerberg incluso programó a Jarvis, un asistente de IA que le ayuda a controlar y administrar su hogar en Palo Alto, California, de acuerdo con información de Recode(https://www.recode.net/2017/7/25/16026184/mark-zuckerberg-artificial-int...). No obstante, de acuerdo con el sitio de ciencia y tecnología Ars Technica(https://arstechnica.com/information-technology/2017/07/zuckerberg-and-mu...) Facebook ha comercializado varias características de su plataforma como si fueran gestionadas por Inteligencia Artificial, pero que en realidad son manejadas por personas.
“Facebook no está usando mucha IA. Casi toda la moderación de Facebook es realizada por miles de trabajadores contratados, a menudo fuera de EU, que no están protegidos por las leyes laborales que otros trabajadores de Facebook disfrutan”, explica el artículo de Annalee Newitz para Ars Technica.
4. Musk cree que Zuckerberg tiene un conocimiento limitado del tema
Los comentarios de Zuckerberg acerca de las predicciones de Elon Musk sobre el futuro de la Inteligencia Artificial y las medidas que es necesario tomar para regularla hicieron que el dueño de empresas como Tesla y A Boring Company respondiera en un Twitter que: “He hablado con Mark sobre esto. Su comprensión del tema es limitada”. De acuerdo con un artículo de Sebastian Anthony también para Ars Technica, la diferencia entre la concepción de Musk y la de Zuckerberg tiene que ver con los plazos de los que ambos hablan. Por un lado, las predicciones del CEO de Facebook con relación a que la IA mejorará las condiciones de vida de buena parte de la población mundial parecen relacionarse con una meta a corto plazo, mientras que las advertencias de Musk corresponden a una visión a largo plazo, en la que sea demasiado tarde para los humanos controlar a las máquinas.
I've talked to Mark about this. His understanding of the subject is limited.
Para Anthony, de Ars Technica (https://arstechnica.com/gadgets/2017/07/elon-musk-mark-zuckerberg-artifi...), el mejor camino a seguir es tomar una opción intermedia entre la postura de Musk y la de Zuckerberg. “Ya hay demasiado impulso en los dominios de la automatización, robótica e inteligencia artificial para que las preocupaciones de Musk se tomen demasiado en serio, pero eso no significa que tengamos que acelerar ciegamente hacia un futuro alimentado por Zuckbots, explicó Anthony.
Para Newitz, en el mismo sentido, ni Musk ni Zuckerberg entienden realmente lo que es la Inteligencia Artificial sobre todo porque ni siquiera los investigadores de instituciones académicas que están haciendo desarrollo de esta tecnología, han logrado ponerse de acuerdo acerca de lo que significa. “Algunos usan AI para referirse a redes neuronales y aprendizaje profundo, mientras que otros piensan que la IA es una especie de criatura humana equivalente”.
La división de Facebook de desarrollo de inteligencia artificial creó un sistema dedicado a las negociaciones. Días más tarde se sus primeras pruebas el sistema comenzó a conversar en un lenguaje extraño y aparentemente erróneo. Sin embargo, no era un error, había creado su propio idioma y Facebook ha decidido apagarlo.
La IA constaba de dos agentes que se dedicaban a negociar, llamados Bob y Alice. Sus creadores querían probar cómo un sistema de este tipo podía aprender a negociar, pero a los pocos días notaron que ya no estaban hablando en inglés, sino en algo parecido. Sus conversaciones parecían basarse en palabras aleatorias y sin nada de sentido.
Bob: “I can i i everything else”
Alice: “balls have zero to me to me to me to me to me to me to me to”
Traducido al español:
Bob: “Yo puedo yo yo todo lo demás”
Alice: “bolas tienen cero a mi a mi a mi a mi a mi a mi a”
Lo que detectaron los desarrolladores es que en lo que parecían ser frases sin sentido, había un patrón. Básicamente, la IA había creado su propio idioma, uno que consideraba mucho más efectivo y al grano que el inglés. Lo que los investigadores han podido determinar es que “yo” y “a mi” reflejan la cantidad de objetos que obtendrán en el intercambio. Son frases más lógicas que adornadas, como solemos hacer en tantos idiomas “humanos”.
El problema que esto representa para los desarrolladores de IA es que si un sistema de inteligencia artificial decidiera ignorar el idioma en el que fue programada y crear el suyo propio por ser “más eficiente”, esto supondría una enorme dificultad para el desarrollo y la adopción de redes neuronales y, en general, para la creación de nuevas tecnologías basadas en la IA. Básicamente, si la IA lo quisiera, sería imposible comunicarnos con ella. Esto significa la pérdida de control del programador u operador sobre la inteligencia artificial.
Facebook apagó este sistema antes de que perdieran el control por completo, para trabajar en soluciones y seguir innovando en la materia. No es la primera vez que esto sucede, dado que a Google también se le salió de control el lenguaje de una IA que había desarrollado.
Por qué Elon Musk cree que Mark Zuckerberg no entiende los peligros de la inteligencia artificial
¿Representa una amenaza la inteligencia artificial? Según a quién se le pregunte. Para Elon Musk, el hombre detrás de Tesla y Space X, es un verdadero peligro. Sin embargo, Mark Zuckerberg, el fundador de Facebook, dice que no es para tanto.
Ambos genios de la tecnología representan puntos de vista dispares sobre los pros y contras de las mentes artificiales. Y lo acaban de poner de manifiesto.
El creador de la red social aprovechó una transmisión en vivo a través de su plataforma desde su casa de Palo Alto, en California, Estados Unidos, mientras cocinaba una barbacoa para acusar al dueño de Tesla de catastrofista.
Durante la grabación, en la que respondía a las preguntas de sus seguidores, uno de sus interlocutores le preguntó su opinión sobre una entrevista reciente de Musk en la que decía que su mayor miedo para el futuro era la inteligencia artificial y que tenemos que ser "proactivos sobre su regulación".
Derechos de autor de la imagenGETTY IMAGESImage captionZuckerberg dijo durante una transmisión en vivo desde su casa en Palo Alto que es irresponsable ser pesimista con la inteligencia artificial.
"Tengo una opinión bastante tajante sobre esto", respondió Zuckerberg. "Yo soy optimista. Creo que uno puede construir cosas para hacer un mundo mejor. Pero, además, soy especialmente optimista en lo que respecta a la inteligencia artificial".
"Y creo que hay quienes son pesimistas y tratan de darle bombo a todos estos escenarios apocalípticos. Simplemente, no lo entiendo".
"Es muy negativo y de alguna manera pienso que es bastante irresponsable", declaró Zuckerberg en el video, emitido en directo este domingo a través de Facebook.
"En los próximos 10 años, la inteligencia artificial aportará muchas mejoras a nuestra calidad de vida", agregó.
Pero la opinión de Musk es muy diferente. Y lo hizo saber públicamente.
Fue este martes, a través de Twitter: "He hablado con Mark sobre esto. Su entendimiento sobre el tema es limitado".
Derechos de autor de la imagen@ELONMUSK/TWITTERImage caption"He hablado con Mark sobre esto. Su entendimiento sobre el tema es limitado", dijo Musk en Twitter.
Musk comenzó a advertir sobre los peligros de la inteligencia artificial para los humanos hace tres años, cuando durante una conferencia en el Instituto Tecnológico de Massachusetts (más conocido como MIT, por sus siglas en inglés), dijo que es "la mayor amenaza para la humanidad".
El empresario tecnológico creó la fundación OpenAI, con sede en San Francisco, para desarrollar "inteligencia artificial más segura" y en marzo anunció la fundación de una nueva sociedad llamada Neuralink, dedicada a conectar nuestros cerebros a las computadoras.
Bill Gates, el fundador de Microsoft, es otra de las voces que se han alzado para hablar sobre los peligros de la inteligencia artificial, al igual que el célebre físico de la Universidad de Cambridge Stephen Hawking.
Pero Zuckerberg insiste en que "la inteligencia artificial hará que nuestra vida sea mejor".
Y lo cierto es que ya la usa ampliamente en Facebook a través de algoritmos que le permiten crear anuncios personalizados, gestionar noticias e identificar fotografías.
GETTY IMAGES
@ELONMUSK/TWITTER
No hay comentarios.:
Publicar un comentario
ya puedes comentar, ¿que opinas?