Fredi Vivas ----- * La presentación rápida de FREDI VIVAS es que es Emprendedor y tecnólogo especializado en inteligencia artificial * Fredi estudió Ingeniería en Sistemas Informáticos y realizó estudios de posgrado sobre inteligencia artificial, machine learning y bíg data junto a los más renombrados científicos y emprendedores del mundo en la Singularity University, ubicada en una sede de la NASA en Silicon Valley. * Tendría que agregar mucho más de su fascinante curriculum pero destacaré dos cuestiones: Fredi es CEO de RockingData una startup pionera y referente en latinoamérica y es además autor de Cómo piensan las máquinas: Inteligencia artificial para humanos (Galerna) ----- * Fredi, acabás de regresar de Madrid donde te invitaron a dar una conferencia en la Universidad Carlos III Organizada Máster Universitario en Inteligencia Artificial Aplicada, te quiero preguntar ¿cómo te fue en Madrid y de qué trató la conferencia? * Poniendo un foco amplio, como estamos en plena efervecencia respecto de la inteligencia artificial: ¿por qué considerás que la irrupción de la inteligencia artificial es similar al proceso de inicio de la revolución industrial? * Hoy estamos en un estadio donde la IA y la ciencia de datos están a disposición para mejorar un proceso o descubrir la forma de hacer algo. Mi visión es positiva en ese sentido.¿Según tu persectiva cómo evolucionará la IA? * Fredi, sos el CEO de Rocking Data, que como dijimos es la startup argentina que desarrolla algoritmos y se vale de la inteligencia artificial para resolver problemas concretos de las organizaciones.¿Podrías darnos un ejemplo de alguna solución lograda y explicarnos cómo fue ese proceso? * En algun lugar te presenta como el emprendedor que desarrolló un algoritmo para medir la saturación de una sala de terapia intensiva, ¿nos podés explicar en qué consistió ese emprendimiento? Ciencia de datos y la experiencia del hospital en tiempos de Covid19 poder predecir lo que podía pasar? * ¿Cómo usan las máquinas los datos para tomar decisiones? * ¿Qué es machine learning? * ¿Qué es la cuestión de la explicabilidad y que tiene que ver con una caja negra? * ¿La inteligencia artificial puede tener sesgos? * La fórmula es: Inteligencia Artificial + Humanos ¿Qué significa? Humano en el loop * ¿Que son los habilitadores: 5G, Huge Data, Edge Computing? Ver ejemplo:El 5G y el edge computing de Telefónica, habilitadores de la fábrica inteligente de Gestamp https://www.youtube.com/watch?v=IhpeFrSkOks * ¿Qué es el empoderamiento digital de los ciudadanos? * ¿Qué es computer vision y cómo funciona para el deporte, por ejemplo? * En Agosto vas a dar un curso sobre IA en SAn Andrés con Walter Sosa Escudero, que también ha sido nuestro invitado y otro profesor ¿Podrías decirle a la audiencia qué características tiene el curso por si les interesa participar y difundir. RECOMENDÓ MIRAR * 2001 ODISEA DEL ESPACIO * HER 2013 * IA Generativa * CHATGPT redacta textos verosímiles no verdaderos * La ciencia de datos tiene 3 componentes: tecnología, matemáticas y estadística, entender el problema ------ En 2017 co-fundó RockingData, una startup pionera y referente en latinoamérica, reconocida como una de las 10 startups con mayor proyección por LinkedIn en 2022. RockingData trabaja a diario para democratizar la ciencia de datos y la inteligencia artificial, con el objetivo de potenciar la toma de decisiones en todo tipo de organizaciones. Con clientes como MercadoLibre, YPF y AB InBev, entre otros. Fredi participa como tecnólogo en numerosas actividades de divulgación como Tedx Talks, en medios como La Nación, Infobae, Perfil, CNN y otros. Es profesor en posgrados y coordinador del programa Data & AI Strategy de la Universidad de San Andrés. ----- PRESENTACIÓN EN MISIONES * Silicon Misiones presenta a Fredi Vivas «Cómo piensan las máquinas»- 9 de June de 2023, 14:18 * https://misionesonline.net/2023/06/09/silicon-misiones-presenta-a-fredi-vivas-como-piensan-las-maquinas/ ----- * https://udesa.edu.ar/noticias/fredi-vivas-con-la-inteligencia-artificial-estamos-ante-una-nueva-revolucion-industrial?fbclid=IwAR1yG40A1N0qpaRK6sScOCW6tQvi4hFRqTxx95bhbdnu1bpRIOukTdKYhKI * En esta entrevista, el CEO de RockingData y autor de ¿Cómo piensan las máquinas? habla sobre el ChatGPT de OpenAI, un chatbot que usa inteligencia artificial. Enfatiza la necesidad de una adopción responsable y cuidadosa de la tecnología y compara la irrupción de la inteligencia artificial con la Revolución Industrial. * fredi vivas por Fernando G. Toledo para Los Andes ----- * Fredi Vivas, especialista en inteligencia artificial: “La IA tiene un gran componente de humanidades” * El ingeniero y profesor dialogó con DEF a propósito de su libro ¿Cómo piensan las máquinas?, en el que explica y reflexiona en tono de ciencia ficción sobre inteligencia artificial y ciencia de datos * 2 Oct, 2021 * https://www.infobae.com/def/2021/10/02/fredi-vivas-especialista-en-inteligencia-artificial-la-ia-tiene-un-gran-componente-de-humanidades/ * Hasta hace unos años, la inteligencia artificial (IA) era un mundo desconocido. O, más que desconocido, ajeno: palabras como algoritmo y machine learning eran propias de entendidos en informática o de imaginarios truculentos sobre robots de dudosa moral. * Terminator, película emblema de los ‘80, modeló una forma de entender el rol de las máquinas y, en un sentido general, de su relación con el futuro. Las máquinas nos iban a dominar, las máquinas iban a adueñarse de ese porvenir sombrío apenas iluminado por las llamas de la devastación. * DOS SUEÑOS, UNA TECNOLOGÍA * Un sueño distópico con cyborgs que dominan el mundo y otro, más optimista, explican la publicación de Cómo piensan las máquinas: Inteligencia artificial para humanos (Galerna), de Fredi Vivas: “Mi sueño era contribuir a que más gente se pudiera meter en estas tecnologías; hay mucha búsqueda de personal orientada a data, y, por otro lado, gente sin conseguir trabajo”. Coordinador académico del programa Big Data de la Universidad de San Andrés, Vivas es CEO de Rocking Data, startup argentina que desarrolla algoritmos y se vale de la inteligencia artificial para resolver problemas concretos de las organizaciones. * En una mezcla de ciencia ficción futurista con conceptos de IA, Cómo piensan las máquinas es un compendio que aborda el funcionamiento y las principales preguntas que derivan de la IA: “Busqué la excusa de estar en el futuro y entender cómo las máquinas nos pueden ayudar a sobrevivir”, dice Vivas, y agrega: “En los ‘80, nos metieron en la cabeza la lucha máquinas vs. humanos; mi idea es máquinas más humanas, trabajando juntos”. Vivas dialogó con DEF sobre la gestación del libro, el prólogo escrito con IA, la diferencia entre naturaleza humana y algorítmica, entre otros temas. * -¿Qué te motivó a escribir Cómo piensan las máquinas? + -No quería un clásico manual para ser un científico de datos. Primero, el libro busca entretener y creo que, si se consigue entretener, se llega con los conceptos más fácilmente. La búsqueda es hacer que más gente se pueda meter en estas tecnologías. Para mí, el libro nace de dos sueños, uno es más utópico en el sentido de contribuir a que algunas cosas cambien: cuando tenés 18 años o 20, es muy complejo conseguir el primer trabajo. Y también, cuando la gente de más de 40 quiere reconvertirse, no es fácil. * Mi sueño era contribuir a eso viendo que hay mucha búsqueda de personal orientada a data, y por otro lado, gente sin conseguir trabajo. * El otro es un sueño literal. Venía trabajando con la idea del libro hace casi dos años, pero no estaba convencido del todo y no quería hacer algo que no me divirtiera. Hasta que el año pasado me agarró COVID-19: estaba todo el día acostado y, en una de esas pesadillas, miro por la ventana en Adrogué los árboles derritiéndose de fuego y lava. Bajo corriendo y veo robots gigantes estilo Terminator. En una siguiente escena, veo a unos tipos militares, no entiendo nada, y me dicen qué suerte que te despertaste porque te necesitamos. Esta es la base de operaciones, estamos peleando contra las máquinas y vos nos podés ayudar a entender cómo piensan las máquinas. Yo me quedo recalculando y les explico: las máquinas se anticipan a los movimientos porque identifican patrones de comportamiento. Al otro día, me despierto y charlo el sueño con mis amigos, digo: esto es muy loco, tiene sentido. Escribí un índice, lo presenté a la editorial y empecé a escribir. * DE LA INTELIGENCIA ARTIFICIAL AL PENSAMIENTO * -Uno de los ejes del libro es si las máquinas piensan o no. ¿Qué hace que la pregunta sea tan compleja de responder? * -Te lo comparo con otra cosa. ¿Las máquinas ven? Hay una técnica que se llama computer vision: las máquinas pueden “ver” el mundo y tomar ese dato de entrada a través de sus cámaras y con esa data que son videos o fotos pueden identificar elementos. ¿Eso es ver? Es difícil determinarlo. Lo lógico es decir que no ve, es una máquina. Percibe el mundo a través de sensores, y después está entrenada para identificar cosas, objetos o movimientos para dar una definición: si le damos fotos de gatos y la entrenamos, va a identificar cuándo está frente a uno. * Pero ¿está viendo un gato realmente? Lo lógico es decir que no, aunque el comportamiento es similar. Lo que pasa es que queremos compararlo con la forma de pensar de los humanos. Al escribir esta parte, basado en la investigación de Alan Turing, me topé con investigaciones filosóficas, como una de Immanuel Kant, sobre la búsqueda de la vida extraterrestre. Imaginaba cómo serían los extraterrestres en otros planetas en base a cómo el humano se comportaría en ese otro planeta. * Nunca podemos salir de la visión humana. La palabra “pensar” solo se aplica a seres humanos, quizás a las máquinas deberíamos darles otro nombre: procesar, calcular, aunque es más que calcular. La discusión no está cerrada, me interesaba poner ese título para dar la discusión. * Por otro lado, la IA es una disciplina de humanidades, porque la IA nos ayuda a entender cómo aprendemos, cómo incorporamos y creamos conocimiento, y eso es algo que siempre se dejó para los humanos y ahora lo estamos tratando de trasladar a las máquinas. Algo que parecería duro y técnico nos está llevando a preguntas filosóficas, éticas y morales. La IA tiene un gran componente de humanidades. * EL HUMANO Y LA MÁQUINA * -En la tapa, se aclara que el prólogo está escrito por IA. Sin embargo, en él se habla sobre la vida personal del autor, y el lector realmente queda en la duda de quién lo escribió. Más allá del juego, ¿podría llegar un punto en el que la IA se vuelva indiferenciable de la actividad humana? * -El texto está 100 % escrito por la máquina. En el material que le entregué a la editorial, les aclaré que no se podía modificar, porque lo que quería hacer era respetar esas salidas de la máquina, esas frases que dijo tal como estaban originalmente. Solo lo tradujimos de inglés a español. * Para contestar a la pregunta, ahora que te digo esto, se comprueba que es indistinguible. Y yo no sé si hubiese escrito algo mejor, aunque la idea de hacerlo así la tuve yo, que soy humano... Esto surge porque faltaba poco para entregar el material y no tenía un prologuista, no se me ocurría quién podía hacerlo. En un momento, venía hablando con Agustín, filósofo de Rocking Data, que trabaja con GPT-3, tecnología basada en OpenAI, y él me contaba que por la noche se había quedado hablando con GPT-3. * Me quedé con la idea, pensando, y dije: “Necesito un prólogo y tengo esta herramienta acá: hay que hacerlo”. Es una gran idea para mostrar de forma tangible lo que está pasando hoy con la IA. Hubo dos o tres sesiones, la sesión final fue de casi tres horas en la que entrás en modo ensayo, y empezás a pasarle palabras y conceptos para que escriba un ensayo. Con esas palabras, la IA generó unos veinte ensayitos cortos y, con eso, lo único que hicimos fue seleccionarlos y traducirlos. La segunda parte fue una conversación donde yo hacía preguntas y la IA respondía. Tampoco modificamos nada, solo elegimos las respuestas que tenían más sentido. * -En el libro, contás que la idea surgió de un sueño de clima apocalíptico en el que peleabas con un robot estilo Terminator. Además, el libro está escrito “para el lector del futuro”. ¿Cómo ves ese futuro en función de las máquinas? ¿Sos optimista o pesimista? * -Soy bastante racional en eso. Si tengo que elegir un bando, me pondría en el optimista. Por lo que veo hoy, la IA está lejos de ser una IA general que integre los diferentes mundos de la IA. Si quisiéramos pensar en un Terminator tendríamos que tener capacidad de computer vision, al mismo tiempo interpretar lo que escucha y traducirlo a algo que pueda responder, que el cyborg se pueda desplazar físicamente: son muchas cosas de IA avanzadas que hoy no están resueltas y quizá nunca lo estén. Hoy estamos en un estadio donde la IA y la ciencia de datos están a disposición para mejorar un proceso o descubrir la forma de hacer algo. Mi visión es positiva en ese sentido. * INTELIGENCIA ARTIFICIAL Y TRABAJO * -¿Hay chances de que las máquinas y algoritmos reemplacen el trabajo humano? * -Yo no creo que haya muchos trabajos que desaparezcan. Lo que creo que va a pasar es que, dentro del rol, por ejemplo, de médico, van a cambiar muchas tareas. Quizá desaparezcan muchas tareas que la IA haga mejor. Por ejemplo, en el diagnóstico de imágenes: hay algoritmos que identifican en una radiografía elementos muy rápido y casi sin costo. Si eso pudiéramos hacerlo en escala, imaginate las facilidades que podría darle a un doctor la velocidad de reconocer algo dentro de una radiografía. O te sacás una foto de la mano, tenés una mancha y la IA puede interpretar si la mancha es peligrosa o no comparándola con los millones de imágenes donde sí hubo que preocuparse y que el diagnóstico se mande automáticamente a tu médico. * Podríamos predecir cuánta gente va a entrar a un hospital con determinada enfermedad, si necesito más médicos, o más insumos. Aplicar una capa de IA a todo lo que hacemos va a suceder en los próximos años, seguramente de forma escalonada. Va a haber una necesidad de muchos puestos de trabajo que interpreten los resultados para tomar buenas decisiones. El desafío va a ser entrenar en las habilidades necesarias para acompañar ese desarrollo. * -¿Qué problemas pueden solucionar los big data y cuáles no? * -Siempre que haya datos digitales, se puede entender el problema desde una mirada de ciencia de datos. Es clásicamente una disciplina que puede trabajar en contextos caóticos y no definidos. Por eso está bueno, al armar un equipo, hacerlo con diversidad cultural y de género, de profesiones, porque esta variedad suma miradas que aporten a los proyectos. Los proyectos de data son caóticos y no definidos. Un equipo con diversidad es un equipo que busca la solución en base a los datos y tiempo que hay disponibles. * En los proyectos de datos, cuando una empresa nos llama y dice: “Necesito entender mejor dónde abrir un centro de vacunación”, ¿cómo determino eso? Me gustaría tener datos de todos los puntos, datos de geodata, si hay una plaza, si hay una escuela cerca. Voy a pensar cuáles son los datos que me pueden dar un modelo más robusto. * Por otro lado, hay proyectos en los que el histórico no te sirve demasiado. En los primeros 15 días de cuarentena, mirabas la historia y no tenía mucho sentido crear un modelo que predijera la asistencia al cine en los próximos meses. El contexto era muy cambiante. Nosotros, como humanos creativos, tuvimos que pensar la mejor manera de adaptar esos modelos. * En resumen, los humanos van a ser quienes tienen la capacidad de innovar, de ser flexibles, de moverse en contextos difíciles de predecir. La capacidad de liderar y responder correctamente en esos contextos es casi exclusivamente del mundo de los humanos. ERRAR ES HUMANO * -Cuando se habla de la “caja negra” de los algoritmos y no se puede explicar cómo llegan a determinado resultado, por ejemplo, a la hora de otorgar un crédito, ¿puede haber riesgo de discriminación por género o raza? * -Eso viene de los sesgos, y los sesgos siempre son humanos. Los humanos que creamos la IA cometimos errores en el sentido de no darle todos los datos necesarios a la IA, lo que la lleva a replicar esos errores. Recuerdo el primer caso que escuché hace unos años: una persona de piel negra hizo una denuncia porque entraba a un local de puerta automática, el vidrio no se abrió y el hombre se golpeó: la cámara no lo había detectado como un humano. En ese caso muy simple, lo que sucedió es que la IA fue entrenada con imágenes de personas blancas. Ahí hubo un sesgo del equipo, probablemente en San Francisco eran todos hombres blancos. Lo mismo pasó en la plataforma LinkedIn. El sistema recomendaba puestos de CEO solamente a hombres, porque se basaba en la historia, y la historia de CEO era en su mayoría masculina. Ahí la pregunta es: ¿cómo hago para que nuestro equipo tenga esto en la cabeza? La mejor manera es tener equipos diversos. Edades, género, orígenes, gente con y sin título universitario. ------------ * https://www.bing.com/videos/search?q=Fredi+Vivas&docid=603507827843014216&mid=8E7C0FA99E6FAEB6912C8E7C0FA99E6FAEB6912C&view=detail&FORM=VIRE SEGUIR LEYENDO: * Matías Karlsson, especialista en Inteligencia Artificial: “Argentina puede ser un referente mundial” * Sosa Escudero, el autor que combinó Borges y Big Data: “Hice un divertimento intelectual” ------ * Fredi Vivas, el emprendedor que desarrolló un algoritmo para medir la saturación de una sala de terapia intensiva * pais.com.ar/argentina/fredi-vivas-el-emprendedor-que-desarrollo-un-algoritmo-para-medir-la-saturacion-de-una-sala-de-terapia-intensiva/ * pais.com.ar/argentina/fredi-vivas-el-emprendedor-que-desarrollo-un-algoritmo-para-medir-la-saturacion-de-una-sala-de-terapia-intensiva/ Por Lucas Vigiani- Viernes, 18 de junio de 202 ------ * Fredi’s Profile * linkedin.com/in/fredidavidvivas * Website- fredivivas.com/ (Personal) * Email: fredi.vivas@rockingdata.com.ar * Birthday: May 21 ------ * La era de las máquinas espirituales * La era de las máquinas espirituales (The Age of Spiritual Machines) es un libro de Ray Kurzweil (1998), de contenido filosófico, tecnológico, informático y científico, además de pura ciencia ficción, que habla de la historia de la evolución y su relación con la vida natural y la tecnología, así como el papel del hombre en la historia de esta última y de la informática y el futuro de ésta en su evolución hacia la relación hombre-máquina. El libro está dividido en tres partes y un epílogo y se describe el protagonismo de la evolución tecnológica. 1ª parte: Se da a conocer el concepto de la teoría de la evolución y su aplicación en la inteligencia tanto humana como artificial. Para ello se comprende la naturaleza exponencial del tiempo de acuerdo con la Ley de Moore, a través de la historia de la humanidad, para así, dar lugar a la formación de una nueva inteligencia en la Tierra. 2ª parte: Se da a entender cómo es la limitación humana presente en los siglos XX y XXI y el papel de los cálculos y datos procesados en el hombre y la computadora, así como los avances tecnológicos que abren nuevos caminos para la integración hombre-máquina, aunque también se da a la luz las implicaciones y limitaciones de las computadoras en el contacto social con la humanidad en 1999. 3ª parte: Avances futuros en la informática y en su aplicación con el hombre, aplicables para los cien años posteriores a 1999; con ello se demostrará con hechos (a modo de predicción, explicados por el autor) que la computadora será parte inalienable de la humanidad aunque no exenta de debates de diversa índole en todos los aspectos. El epílogo contiene una reflexión acerca del papel que juegan las leyes de la evolución en el campo de la inteligencia artificial y de un posible destino de la inteligencia en el control del universo. Aunque el autor ha escrito todo el libro y en parte es explicado de manera personal por Kurzweil, no deja de sorprender una conversación a lo largo del contenido del libro en forma de entrevista con un personaje ficticio que probablemente sea el propio autor, del que revela su nombre al final (Molly). * https://es.wikipedia.org/wiki/La_era_de_las_m%C3%A1quinas_espirituales * SEGUIR EXPLORANDO maquinas espirituales? Desaparecerían los cables.... ---- * 08.07.2024 * Fredy Vivas * Emprendedor y tecnólogo especializado en inteligencia artificial. Autor de los libros Invisible (2023) y ¿Cómo piensan las máquinas? (2021). Estudió una Ingeniería en Sistemas Informáticos y realizó estudios de posgrado sobre inteligencia artificial, machine learning y bíg data junto a los más renombrados científicos y emprendedores del mundo en la Singularity University, ubicada en una sede de la NASA en Silicon Valley, donde representó a la Argentina en el Global Solutions Program. * En 2017 co-fundó RockingData, una startup pionera y referente en latinoamérica, reconocida como una de las 10 startups con mayor proyección por LinkedIn en 2022. * RockingData trabaja a diario para democratizar la ciencia de datos y la inteligencia artificial, con el objetivo de potenciar la toma de decisiones en todo tipo de organizaciones. Con clientes como MercadoLibre, YPF y AB InBev, entre otros. * Fredi participa como tecnólogo en numerosas actividades de divulgación como Tedx Talks, en medios como La Nación, Infobae, Perfil, CNN y otros. * Es profesor en posgrados y coordinador del programa Data & AI Strategy de la Universidad de San Andrés. * Su sitio web: https://www.fredivivas.com/ * * Libros: *- Invisible (2023) ver notas: en Clarín (1/24): https://www.clarin.com/cultura/ia-herramienta-ultra-poderosa_0_SfbRWIiJFf.html otra: https://defonline.com.ar/ciencia-tecnologia/invisible-fredi-vivas-y-una-nueva-manera-de-ver-la-inteligencia-artificial/ y breve video en: https://youtu.be/8_DurDdvWrQ?si=LXZXtsOnbzijtXG4 *- Cómo piensan las máquinas (2021) vista previa en https://www.google.com.ar/books/edition/C%C3%B3mo_piensan_las_m%C3%A1quinas/G61BEAAAQBAJ?hl=es-419&gbpv=1&printsec=frontcover ** Entrevista en Radio con Vos esta semana: https://youtu.be/FM8IRFQkfyk?si=EeJdqQoJ6EM-Pn6J * Charla TED 12/23: https://youtu.be/p0WE2gjnoXo?si=YGPD7ngHSFr-jvKc * Nota de Sebastián Campanario (3/24) donde lo cita: https://www.lanacion.com.ar/economia/las-rampas-de-acceso-y-las-cajas-transparentes-como-sigue-la-pelicula-de-la-inteligencia-artificial-nid24032024/ * Notas en Infobae: * 4/24: https://www.infobae.com/educacion/2024/04/28/tomas-chernoff-y-fredi-vivas-la-tecnologia-nos-permite-amplificar-el-conocimiento-humano/ * 7/23: https://www.infobae.com/educacion/2023/07/10/fredi-vivas-y-la-fascinacion-por-entender-como-piensan-las-maquinas/ * Muy interesante nota (no es del invitado pero sirve para destacar la trascendencia del tema y la urgencia de su regulación muy postergada): https://www.theguardian.com/technology/article/2024/may/25/big-tech-existential-risk-ai-scientist-max-tegmark-regulations * Nota sobre la Ley de la Unión Europea (3/24) que regula la IA: https://www.europarl.europa.eu/news/es/press-room/20240308IPR19015/la-eurocamara-aprueba-una-ley-historica-para-regular-la-inteligencia-artificial ---- * Vive en Adrogué- Eugorda * ---- * Su sitio web: https://www.fredivivas.com/ * Libros: - Invisible (2023) ver notas: en Clarín (1/24): https://www.clarin.com/cultura/ia-herramienta-ultra-poderosa_0_SfbRWIiJFf.html otra: https://defonline.com.ar/ciencia-tecnologia/invisible-fredi-vivas-y-una-nueva-manera-de-ver-la-inteligencia-artificial/ y breve video en: https://youtu.be/8_DurDdvWrQ?si=LXZXtsOnbzijtXG4 - Cómo piensan las máquinas (2021) vista previa en https://www.google.com.ar/books/edition/C%C3%B3mo_piensan_las_m%C3%A1quinas/G61BEAAAQBAJ?hl=es-419&gbpv=1&printsec=frontcover * Entrevista en Radio con Vos esta semana: https://youtu.be/FM8IRFQkfyk?si=EeJdqQoJ6EM-Pn6J * Charla TED 12/23: https://youtu.be/p0WE2gjnoXo?si=YGPD7ngHSFr-jvKc * Nota de Sebastián Campanario (3/24) donde lo cita: https://www.lanacion.com.ar/economia/las-rampas-de-acceso-y-las-cajas-transparentes-como-sigue-la-pelicula-de-la-inteligencia-artificial-nid24032024/ * Notas en Infobae: 4/24: https://www.infobae.com/educacion/2024/04/28/tomas-chernoff-y-fredi-vivas-la-tecnologia-nos-permite-amplificar-el-conocimiento-humano/ 7/23: https://www.infobae.com/educacion/2023/07/10/fredi-vivas-y-la-fascinacion-por-entender-como-piensan-las-maquinas/ * Muy interesante nota (no es del invitado pero sirve para destacar la trascendencia del tema y la urgencia de su regulación muy postergada): https://www.theguardian.com/technology/article/2024/may/25/big-tech-existential-risk-ai-scientist-max-tegmark-regulations * Nota sobre la Ley de la Unión Europea (3/24) que regula la IA: https://www.europarl.europa.eu/news/es/press-room/20240308IPR19015/la-eurocamara-aprueba-una-ley-historica-para-regular-la-inteligencia-artificial La Eurocámara aprueba una ley histórica para regular la inteligencia artificial El Parlamento aprobó el miércoles la Ley de Inteligencia Artificial, que garantiza la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación. El Reglamento, acordado en las negociaciones con los Estados miembros en diciembre de 2023, fue respaldado por la Eurocámara con 523 votos a favor, 46 en contra y 49 abstenciones. Su objetivo es proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector. El Reglamento fija una serie de obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto. Aplicaciones prohibidas Las nuevas normas prohíben ciertas aplicaciones de inteligencia artificial que atentan contra los derechos de la ciudadanía, como los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial. También se prohibirán el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva (cuando se base únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas. Exenciones de las fuerzas de seguridad El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido a priori, salvo en situaciones muy concretas y bien definidas. Los sistemas de identificación biométrica «en tiempo real» solo se podrán emplear si se cumplen una serie de salvaguardias estrictas; por ejemplo, su uso se limita a un período y lugar específicos y cuenta con una autorización judicial o administrativa previa. Entre estos casos pueden figurar la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. Recurrir a estos sistemas a posteriori se considera un uso de alto riesgo, que requiere autorización judicial al estar vinculado a un delito penal. Obligaciones para los sistemas de alto riesgo También se prevén obligaciones claras para otros sistemas de IA de alto riesgo (debido a que pueden ser muy perjudiciales para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho). Algunos ejemplos de usos de alto riesgo de la IA son las infraestructuras críticas, la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales (por ejemplo, la sanidad o la banca), determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos (como influir en las elecciones). Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana. Los ciudadanos y ciudadanas tendrán derecho a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos. Requisitos de transparencia Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos. Los modelos más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como realizar evaluaciones de los modelos, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes. Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados («ultrafalsificaciones») deberán etiquetarse claramente como tales. Medidas de apoyo a la innovación y a las pymes Habrá que poner a disposición de las pymes y de las empresas emergentes espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización. Declaraciones de los ponentes Durante el debate en el pleno el martes, el coponente de la comisión de Mercado Interior Brando Benifei (S&D, Italia) dijo: «Finalmente tenemos la primera ley vinculante del mundo sobre inteligencia artificial, para reducir riesgos, crear oportunidades, combatir la discriminación y aportar transparencia. Gracias al Parlamento, se prohibirán en Europa prácticas inaceptables de IA y se protegerán los derechos de los trabajadores y los ciudadanos. La nueva Oficina de IA ayudará a las empresas a respetar las normas antes de que entren en vigor. Nos aseguramos de que los seres humanos y los valores europeos estén en el centro mismo del desarrollo de la IA». El coponente de la comisión de Libertades Civiles Dragos Tudorache (Renew, Rumanía) agregó: «La UE ofrece resultados. Hemos vinculado el concepto de inteligencia artificial a los valores fundamentales que constituyen la base de nuestras sociedades. Sin embargo, hay mucho trabajo por delante que va más allá de la propia Ley de IA. La IA nos empujará a repensar el contrato social en el corazón de nuestras democracias, nuestros modelos educativos, los mercados laborales y la forma en que llevamos a cabo la guerra. La Ley de IA es un punto de partida para un nuevo modelo de gobernanza construido en torno a la tecnología. Ahora debemos centrarnos en la aplicación práctica de la legislación». Próximos pasos El Reglamento aún está sujeto a una última comprobación jurídica-lingüística. Su aprobación definitiva (mediante el llamado procedimiento de corrección de errores) está prevista para antes del final de la legislatura. La ley también debe ser adoptada formalmente por el Consejo. Entrará en vigor veinte días después de su publicación en el Diario Oficial y será de plena aplicación veinticuatro meses después de su entrada en vigor, con excepción de: las prohibiciones de prácticas (se aplicarán seis meses después de la fecha de entrada en vigor); los códigos de buenas prácticas (nueve meses después); las normas sobre la IA de uso general, incluida la gobernanza (doce meses después), y las obligaciones para los sistemas de alto riesgo (treinta y seis meses después). Conferencia sobre el Futuro de Europa La Ley de Inteligencia Artificial responde directamente a las propuestas de los ciudadanos de la Conferencia sobre el Futuro de Europa, más concretamente a la propuesta 12(10), relativa a la mejora de la competitividad de la UE en sectores estratégicos, la propuesta 33(5), sobre una sociedad segura y fiable, incluida la lucha contra la desinformación y la garantía de que las personas tengan el control final, la propuesta 35 sobre la promoción de la innovación digital, (3) la garantía de la supervisión humana y (8) un uso fiable y responsable de la IA, el establecimiento de salvaguardias y la garantía de transparencia, y la propuesta 37(3), sobre el uso de la IA y las herramientas digitales para mejorar el acceso de los ciudadanos a la información, incluidas las personas con discapacidad. Tomás Chernoff y Fredi Vivas: “La tecnología nos permite amplificar el conocimiento humano” Los expertos en innovación tecnológica se presentaron en el ciclo de conversaciones que Ticmas organiza durante la FIL de Buenos Aires 2024 PorValeria González 28 Abr, 2024 00:00 a.m. AR- INFOBAE Los nuevos avances tecnológicos y digitales cada vez ocupan más espacio en el aula. Si bien desde la década de 1990 se abrió paso al internet, que desde entonces rige la vida de millones de personas alrededor del mundo, ahora es la inteligencia artificial y las máquinas de impresión 3D las que lideran los nuevos conocimientos. Precisamente de cómo influye a la educación, de su relevancia, alcance y aplicación fue de lo que hablaron Fredi Vivas, tecnólogo experto en IA, y Tomás Chernoff, CEO fundador de Che3D, en la segunda conversación que Ticmas organizó en la Feria Internacional del Libro de Buenos Aires. Fredi Vivas es emprendedor y tecnólogo especializado en IA. Estudió Ingeniería en Sistemas Informáticos y realizó estudios de posgrado sobre inteligencia artificial, machine learning y big data en Singularity University, que tuvo su sede en la NASA. Es coordinador del programa Data & AI Strategy de la Universidad de San Andrés. Tomás Chernoff, fundador y CEO de Che3D, la empresa que pasó de ser un pequeño espacio donde los estudiantes universitarios imprimían sus maquetas a convertirse en un estudio de diseño con clientes como Disney, Danone, Samsung, Bayer, Techint, entre otras. También trabaja para Adidas y, de hecho, las zapatillas que llevaba en la plática eran de suela hecha con impresión 3D. Con la plática “Qué puede y debe aportar la inteligencia artificial y el 3D a la educación”, los expertos en temas de innovación tecnológica trataron temas sobre la importancia de automatización, la poderosa dupla entre la tecnología y la mente humana, y el trabajo conjunto entre máquinas, robots e inteligencia artificial. La tecnología amplifica el conocimiento humano En la charla con Ticmas enfatizaron que la tecnología permite amplificar el conocimiento humano, y que el valor de la automatización reside precisamente en la liberación de tiempo y de carga de trabajo de las personas y que puedan profundizar en sus conocimientos, en ideas que resuelvan el futuro. Tomás Chernoff dijo que es tan importante que las herramientas que hoy están disponibles en la vida cotidiana de las personas es gracias a un trabajo colectivo de la academia y las universidades una vez que las patentes de los inventos se encuentran vencidas, por que es gracias a ello que las nuevas generaciones pueden mejorarlas y darles múltiples usos. “Estas herramientas fueron creadas por instituciones con mucho presupuesto y aunque fueron patentadas las patentes tienen una fecha de vencimiento. ¿Qué hace la comunidad de Creative Commons, los foros alrededor del mundo, las comunidades digitales? Toman esa información tomar esos papers a medida que no sean restrictivos o que se vayan venciendo reescribir en un lenguaje apto para todo público y que las comunidades interactúen con esta información; los chicos toman esa información de comunidades, usan las herramientas de software, que ya fueron creadas por ingenieros y equipos grandes. Al final aunque ellos no crean las herramientas ahora tienen la capacidad de aportar mucho valor con ellas”, añadió Chernoff. Por su parte, Fredi Vivas consideró que la comunidad tecnológica es una de las más colaborativas del mundo, ya que a través del compartir la información y trabajar en equipo es que se pueden crear nuevas y mejores soluciones que saquen el potencial del ser humano. “Hay una comunidad en el mundo que está empezando a dar Open Source o código abierto, lo que permite que exista mucha gente colaborando. En el mundo las ideas se rediseñan, evolucionan y se comparten. Eso es increíble. También hay una tendencia de low code o no code, que hace que el software sea cada vez más fácil de crear. Un ejemplo, antes para hacer una página web necesitabas html, y costaba mucho hacerlo, después pasó a WordPress y a poner en dos clics un blog o una página web. Sistemáticamente cuando el humano tenía que crear la solución había errores, cuando la automatizas evitas esos errores. Empaquetas esa solución y con poco tiempo lo puedes hacer y habilita gente que no sabía hacer una cosa a que ahora pueda hacerlo”, subrayó Vivas. La inteligencia artificial está en todas partes y es invisible Patricio Zunini, quien moderó el evento, introdujo la conversación hablando sobre Invisible: La inteligencia artificial en nuestra vida, el libro de Fredi Vivas. Al respecto, el autor de este texto de ciencia ficción dijo que la premisa parte de lo contrario a lo que Asimov imaginaba para el futuro: donde robots físicos despertaban a las personas, servían el agua, limpiaban la casa, y hacían todas aquellas tareas que el humano prefería saltarse o eficientar. Sin embargo, el camino ha sido distinto a lo que se planteó antes. Vivas planteó que si bien estámos rodeados de máquinas y tecnología que rige nuestras vidas, la mayoría del tiempo estos procesos son invisibles para la sociedad. “De hecho estás acá con el celular y hay algoritmos haciendo cosas con tus datos, ves una película en streaming y te recomienda algo con base en tus gustos y lo que ya consumiste antes, usaste Waze y hay un algoritmo de optimización matemática para que llegar rápido a algun lugar. O sea, la inteligencia artificial están todos lados y es como el principio del libro”, comentó Fredi Vivas en los primeros minutos de la plática. No hay que hacer máquinas más grandes, sino más inteligentes En su primera intervención dentro de la conversación, Tomás Chernoff trajo a colación la evolución de la impresión 3D y cómo es que está no se trata de máquinas más grandes, sino de máquinas inteligentes “La diferencia con las máquinas de ahora a las máquinas de hace 10 años es que cambiaron sus procesadores. Uno se imaginaría que las máquinas tendrían que trabajar con más materiales, en mayores tamaños de una manera más simple en donde haya que agregar menos programación a la máquina. Pero el cambio realmente vino en la velocidad con la que las máquinas imprimen, la calidad o la simpleza de su uso fue porque se cambió el chip de las impresoras”, comentó. Chernoff señaló que hoy en día las máquinas comienzan a tomar decisiones sin conexión a internet y que las mejoras no se encuentran en el hardware (que si puede ser optimizable), pero que el verdadero corazón del rendimiento de una impresora y una máquina en general se encuentra en el procesador y cerebro de la misma. Es necesario incluir la tecnología en la educación Fredi Vivas comentó que la inteligencia artificial debe llevarse a las aulas, pero no precisamente como una materia exclusiva llena de tecnisismos. Más bien consideró que debe integrarse a las otras clases y saber cómo es que la tecnología interactúa con ellas. “Enseñar cómo usar Chat GPT no tendría ningún sentido si no es sólo como una excusa. Hay que explorar en esas materias cómo es que una máquina toma una decisión, qué tipo de inteligencia tenemos nosotros hoy en día. Pero además las herramientas de inteligencia artificial, o de software o de programación, se deberían enseñar en todas las materias. Sus aplicaciones en los diferentes ámbitos, durante toda la carrera”, recalcó. También destacó la importancia de que la formación del pensamiento tecnológico se encuentre desde los primeros años de formación. Si bien consideró que para la formación profesional no es necesario que todos estemos inmersos en la programación, la ingeniería, si enmarcó la relevancia de tener presente el pensamiento computacional, ya que con este se permite desarrollar una capacidad analítica, pensamiento matemático y otras habilidades necesarias para la vida diaria. En su intervención, Tomás Chernoff coincidió en la enseñanza desde tempranas edades ya que abre el panorama de los niños y jóvenes a crear soluciones innovadoras, sobre todo porque, a diferencia de las generaciones pasadas, las niñas y niños de ahora “tienen la posibilidad de aprender desde 30 años antes”. “Respecto del mundo físico, tenemos que generar la infraestructura. ¿Cuáles son los dispositivos que se vinculan con nosotros? ¿Qué tan ergonómico es? Antes no se podía. Ahora vienen los chicos y crean con diseño orgánico generativo. ¿Qué quiere decir eso? El diseño orgánico generativo es el diseño sin diseños, es pedirle lo que uno necesita. A medida que la tecnología fue teniendo más poder, los chicos pueden generar cosas que den cambios”, dijo el CEO de Che3D. Del “modo usuario” al “modo creador” Para el cierre de la conversación, los expertos hablaron sobre cómo poder usar las herramientas digitales y tecnológicas sin perder las capacidades humanas como la memoria. Por ello, comentaron sobre el uso ético y responsable de la tecnología, sobre cómo es que se deben explorar los métodos que nos facilita la tecnología y la inteligencia artificial, sin dejar de hacer lo que en sí corresponde a los humanos. “Es que estámos en ‘modo usuario’ en lugar de ‘modo creador’. Interactuamos con las herramientas en el primero, porque lo utilizamos para que nos resuelva un problema, para que no saque del apuro. Si un día pido a mi carro Tesla que me lleve y conduzca por mi porque voy a dormir, y lo repito constantemente, en un mes ya olvidé cómo manejar. El uso responsable y ético debe permitirnos no olvidar las cosas que ya sabemos. Al contrario, hay que usarlo para crear, para explorar qué más puede o podría hacer, pero como nosotros estamos explorando y aún no sabemos exactamente qué podemos hacer con la IA, creo que estamos como en los años 95 y 96 con el uso del internet”, dijo Fredi Vivas. Por su parte, Tomás Chernoff hizo un llamado a los jóvenes a ser valientes, desafiar el sistema y no tener miedos para pasar de tenerle miedo a la tecnología a entender a los usuarios de la misma y saber cómo aplicarla para solucionar cosas. “Hay tres posiciones donde uno puede estar: corriendo desde atrás, como ‘la tecnología me está desplazando’; entendiendo la tecnología, para conocer qué se está automatizando, pero puedo usar mi materia gris; y la tercer posición, que es la más interesante, que es ver el futuro y entender qué es lo que necesitan los usuarios y cómo podemos llevar estas herramientas. Las ideas más interesantes en esta tercer posición vienen de los chicos”, finalizó Chernoff en el diálogo con Ticmas. “Invisible”: Fredi Vivas y una nueva manera de ver la Inteligencia Artificial Dolores Barón - DEF 21/12/2023 El especialista en IA presentó su nuevo libro desde la Facultad de Derecho. Fredi Vivas, consumidor ávido de ciencia ficción y entusiasta de las nuevas tecnologías, combinó lo mejor de los dos mundos y presentó su nuevo libro, “Invisible”, publicado por Penguin Random House. Se trata de una obra que explica los 10 mandamientos de la Inteligencia Artificial a través de relatos ficcionalizados, planteando una guía para usar estas tecnologías de forma beneficiosa para la humanidad. Invisible: un libro que anticipa los nuevos paradigmas tecnológicos Desde el salón Rojo de la Facultad de Derecho, el autor ahondó en su proceso de escritura y el disparador detrás de este nuevo material: una introducción al relato que viene y una reflexión del relato que pasó. Así, todos los hitos tecnológicos que pasaron y que pasarán son parte de una nueva manera de vivir en comunidad y de adaptarse al cambio. “Cuando empezamos a charlar sobre escribir un libro nos planteó la idea de vivir relatos de ficción, y nos pareció una idea genial. No hay mejor manera de entrar a los temas difíciles que nos dan miedo, que a través de la literatura e historias”, explicó María Fernanda Mainelli, editora del libro. ¿Cuáles son los impactos que va a tener la inteligencia artificial? Su uso ético, el trabajo, la responsabilidad y el rol que van a tomar estas tecnologías son algunas de las temáticas que se abordaron. Para esto, Julio Leiva, periodista argentino, realizó un símil a su ciclo de entrevistas en Filo News, Caja Negra, y planteó un breve debate sobre algunos de estos conceptos. “La inteligencia artificial es una revolución real, muchas profesiones estarán bastante afectadas”, remarcó Vivas. Sin embargo agregó que, si bien habrá cambios, muchas tareas pueden ser potenciadas por la IA. Dio el ejemplo del mundo de la salud, donde en la actualidad hay sistemas que leen radiografías para detectar manchas en la piel que puedan ser peligrosas con una precisión mayor a la de un médico. Esto no significa que no habrá más profesionales de la salud, sino que ellos podrán utilizar estas herramientas como extensiones para agilizar sus tareas. Aún así, el autor explicó que habrá varios trabajos más “automatizados” en donde la inteligencia artificial va a cubrir una gran cantidad de tareas. Ese será el desafío de los próximos años. El uso y la ética responsable de la inteligencia artificial A lo largo del evento también hubo un análisis moral y ético del uso responsable de la inteligencia artificial junto con Tomás Balmaceda, filósofo y periodista, conocido como Capitán Intriga en las redes sociales. La gran pregunta que surgió fue: ¿hay ámbitos en dónde no se querría la intervención de una inteligencia artificial? En primer lugar, Fredi Vivas apuntó que es fundamental que las tecnologías o herramientas que interactúan con humanos deban hacer saber que son inteligencias artificiales. De hecho, hasta una imagen debería llevar la aclaración de que fue creada a través de una plataforma de IA si así fuese. Inclusive, aplicaciones como Instagram ya están trabajando en insertar una marca de agua para diferenciarlas. Balmaceda también resaltó el fenómeno de replicar personalidades famosas a través de chatbots, como Jesús, San Martín o un ser querido. La tecnología no tiene límites, pero ¿hasta qué punto es posible extender la vida “humana”? En este sentido, Fredi Vivas los ve como desafíos y preguntas a responder en los próximos años a través de debates y regulaciones de entidades. ---- * Siete relatos y muchos conceptos sobre el impacto de la inteligencia artificial en la humanidad. * Un robot a punto de convertirse en chatarra y un nieto que intenta salvarlo, una persona cuya identidad fue borrada de todo registro digital, un país gobernado por máquinas, científicos que descubren un mecanismo para viajar al pasado, un chico harto del bullying entrena a un robot para que lo ayude en la escuela. * Los cuentos de ficción científica que integran este libro son una herramienta para reflexionar sobre el impacto de la inteligencia artificial en nuestro día a día. * Fredi Vivas logra maravillarnos con ese mundo que no está tan lejos y, al mismo tiempo, nos propone pensar conceptos como la manipulación y la seguridad de los datos de los ciudadanos, la obsolescencia de la tecnología, los apagones digitales, el aprendizaje de las máquinas y el comportamiento de los algoritmos. Estas historias son una invitación para todos aquellos que se interesen en el futuro y en la revolución de la inteligencia artificial. * Abordan el impacto que esta tecnología tendrá en nuestras vidas y exploran interrogantes fundamentales: ¿la inteligencia artificial puede llevar a la extinción de la humanidad o, por el contrario, impulsar mejoras significativas? ¿Los seres humanos tendremos la capacidad de controlar la IA o presenciaremos un cambio de roles? * En forma de ficciones atrapantes, cargadas de humor y llenas de guiños nostálgicos a un pasado analógico, sin tono apocalíptico ni optimismo excesivo, los cuentos de Invisible postulan un equilibrio muy interesante entre lo distópico y lo utópico. ---- * El libro que homenajea a los grandes clásicos de la ciencia ficción y explica los principios de la Inteligencia Artificial En “Invisible” (Sudamericana), su segundo libro, el emprendedor y tecnólogo escribe sobre cómo los hombres hemos naturalizado a la tecnología al punto de entenderla como algo transparente en nuestras vidas * https://www.infobae.com/educacion/2023/12/26/el-libro-que-homenajea-a-los-grandes-clasicos-de-la-ciencia-ficcion-y-explica-los-principios-de-la-inteligencia-artificial/ * “Lo que hoy ha empezado como una novela de ciencia ficción mañana será terminado como reportaje”. Fredi Vivas toma esta frase de Arthur C. Clarke como acápite de su nuevo libro, Invisible. La inteligencia artificial en nuestra vida (Sudamericana). Emprendedor y tecnólogo especializado en IA, Vivas estudió Ingeniería en Sistemas Informáticos y realizó estudios de posgrado sobre inteligencia artificial, machine learning y big data en Singularity University, que tuvo su sede en la NASA. Es coordinador del programa Data & AI Strategy de la Universidad de San Andrés y uno de los profesores invitados del curso “Tecnologías Emergentes”, que está coorganizado por Ticmas y la Universidad de San Andrés.