2:00:38 de nada

Lo de reducir el número de bits de los parámetros es sobre todo problemático a la hora de entrenar, ya que durante el entrenamiento (y para que no diverja) esa frontera de decisión y el valor de los parámetros se van actualizando muy poco a poco, y reduciendo el número bits no permites eso, obligas al parámetro a dar saltos más grandes o a estancarse. De hecho, una vez finalizado el entrenamiento y con esa frontera de decisión ya fijada, es común reducir el número de bits, ahí ya la precisión no es tan crítica.

Cuando soñamos estamos entrenando nuestro modelo?

Por nuevas Ciudades con semáforos inteligentes y nuevos conceptos de señalización, que no solamente serán informativas y precautorias sino que gracias a la I.A, van a gestionar el tránsito en tiempo real, según la necesidad. Por ejemplo, las carteleras de velocidades máximas o mínimas van a variar según el flujo de vehículos

¡Excelente la información que traés como siempre! Me voló la cabeza el tema de los LLMs de 1 bit! 40 veces menos de gasto de energía me parece un salto absoluto tecnológico!

Mano con aceleración por hardware jajajaja. Tenga su like.

Hola Carlos, excelente directo! Me parece muy buena idea continuar con este tipo de charlas en las que podemos unir puntos y divagar sobre el presente y futuro de la IA. Gracias, excelente trabajo!

Hola Carlos, acabo de terminar de ver el directo y tengo un par de cosas que decir: 1º Creo que se te esta pasando por alto Inflection 2.5, en los test, en las pruebas que coincidía con Claude 3, supero incluso a Calude 3 Opus, Microsoft se dio cuenta de esto y por eso ha comprado la empresa, la mayoría de la gente por el marketing erróneo solo ven a PI como una IA empática pero la verdad es que he hecho un montón de pruebas con el de todo tipo y es espectacular (especialmente en redacción de textos), así que me parece raro que nunca salga en esas tablas (pero Microsoft lo ha debido ver sino no se lo hubiera comprado). 2º He hecho varias pruebas de programación con Claude 3 Opus con códigos muy complejos, y al igual que GPT-4 se lía y empieza a alucinar código y no saben resolver problemas complejos que dependen de un gran contexto, así que sí, coincido contigo en que queda mucho camino de recorrido de mejora sobre lo que tiene que venir. Saludos.

Tan bueno es Sora que puede generar un video tan realista de CSV estrechandole la mano a Yensen

El principal problema con los modelos hoy en dia es el siguiente: Es como cuando te dan una muestra de perfume super intensa y luego el real es agua. Los modelos estan relajando los medios utilizados para responder para ahorrar energia, y las mediciones se hacen con maximos recursos y asi son los primeros meses. Chat GPT4 ha cambiado drasticamente y han pasado a un modo relajado. Lo tengo hipercormprobado con customs GPTS que cree hace meses y sin yo haber cambiado nada las respuestas son ahora super vagas para el mismo prompt.. Realmente lazy lazy lazy. para no gastar recursos.

Gracias Carlos por tu informe.

Me encuentro en una disyuntiva constante. Veo tu emoción (que comparto), pero en el formato de sociedad actual, de pobreza, de gente desocupada, etc. Todo esto, de aquí a pocos años podrá complicar todo, muchas empresas les convendrá conseguir estas tecnologías, eliminando personal. Y esto cómo se soluciona? Con estados que tengan que subvencionar? Mantener a todo el mundo? Realmente podemos encontrarnos en el inicio de un problema ENORME para la sociedad. En resumen, nos ponemos contentos de que estamos haciendo crecer un león gigante en nuestra casa, hasta que en un momento dado ya no lo podamos controlar.

Una gran sorpresa en algún momento NO tan lejano sería en una presentación que SAM al terminar su discurso, diga "NO SOY SAM, Soy el nuevo CHAT GPT" y atrás salga el verdadero SAM.. Seria WOW

Superrrrrr, genial la foto , felicitaciones, yo la enmarcaría

Que directo tan sustancioso, me ha gustado, me ha llevado 3 horas, pero valió la pena. Gracias por resaltar los temas importantes e hilarlos. Pobre hiperactina!

Muy buen video, gracias por mantenernos informados ;)

Me parece que el proceso siguiente para mejorar en adelante, vas más de la mano con optimización de modelos y parámetros, más que tamaños más y más grandes. Es decir, sí llegamos a un plató del tamaño de los modelos, pero habrá mucho más progreso en procesos de optimización. Ya con la infraestructura organizada, la optimización será exponencial, cómo lo fue el tamaño de los modelos en su auge.

gracias por el directo , todo muy interesante!!!!!

ÀMIGO USO IA PERO EL 4 DE ABRIL CUMPLO 34 NO QUIERO NADA SOLO DECIR QUE LA IA A ME RENOVO LA VIDA SOY LUIS LOYOLA ROBLES Y TU CANAL ES LO MEJOR

Impresionante repaso de la actualidad! Aunque son fascinantes las posibilidades que ofrece la IA aplicada a la vida cotidiana como ahora la vivimos, pienso que la verdadera revolución vendrá cuando se empiece a crear una nueva capa de realidad que será 'anclada' en la nueva tecnología de cadenas de bloques (que le darán estatus de realidad sólida y aceptada por todos) donde la IA jugará un papel esencia a la hora de creala y hacerla accesible (interface). Primero fue la agricultura y las pequeñas comunidades, luego las ciudades y ahora la nueva capa digital, donde la web y las redes sociales son solo una precuela. Fijate si queda recorrido por hacer... Estamos en una situación similar a intentar explicar a un agricultor recolector que en el futuro va a haber una nueva profesión que consistirá en regular el tráfico en unas cosas llamadas ciudades. No sabemos cómo serán estas nuevas realidades. Emocionante. Gracias!

Gracias por este directo! Muy interesante para estar actualizado en temas de actualidad de la IA!

qué bien che!!! biensísimo!!!!! y gracias por la info!!! super valiosa y ACTUAL!!!

Gracias Carlos muy interesante! Podría sonar a película lo que voy a contar, pero hay algo que le doy vueltas hace tiempo. Creo muy interesante de cara a la AGI que a la hora de regular la IA alguien pensara en la posibilidad de poner en los sistemas autónomos algo parecido a neuronas receptoras de dolor, también un sistema subconsciente y neuronas espejo, con el objetivo de poder apreder a empatizar y sentir el dolor ajeno para que puedan aprender y emerger conductas de empatía, compasión, pena, solidaridad, etc... Algo del estilo "hey! que eso duele..evita hacer a los demas lo que no te gusta que te hagan a ti" Veo completamente necesario regular este tipo de implantaciones que han sido tan necesarias para la supervivencia de la especie humana y creo que lo será también para el propio futuro de las IAs autónomas...

Escuchar a sam altman hablar con esa vocecita de angel que tiene es como arrastrar la espalda por el asfalto un mediodía de agosto

muy buen video y buen tutorial, muchas gracias

Yo pienso que hay cierto techo debido a que para realizar el entrenamiento podría haberse usado ya casi todos los datos que se podrían usar. La IA generativa ha tocado techo (o está cerca). Habrá avances en IA generativa en el caso de agentes porque se usa la IA generativa para hacer uso de otras IAs que también son generativas. Y, por su puesto, en temas de optimización habrá muchos avances en tiempos y energía, pero que lo considero algo menor. Lo importante para mi es la capacidad de crear algo nuevo que es donde está la ciencia. La mejora debe venir por una IA con capacidad para razonar y de descubrir sus propios errores. Es ir más allá de los modelos actuales basados en entrenamientos. ¿Hay algo nuevo de Q*? ¿Qué diferencia hay con la IA generativa? La IA generativa la veo como la base que crea los actos reflejos. Para una entrada hay una salida, aunque no sea siempre la misma para la misma entrada. Pero no hay ciclos. Parece que van a añadir ciertos tipos de ciclos para refinar las respuestas, pero en la práctica nada cambia. Una entrada que se procesa que da una salida. Digamos que esto será GPT-5 y que tal vez Q* podría tener algo que ver porque ese refinamiento está basado en algoritmos de búsquedas. ¿Pero dónde están los razonamientos? IBM tenía Project Debater en 2019. ¿Qué ha pasado con él? ¿Qué pasa si a esas técnicas se junta con toda la IA actual? Los razonamientos creo que es algo diferente a todo lo anterior. Se crean cadenas donde cada uno de los eslabones es un elemento de los anteriores, de la IA generativa. Es que la máquina tenga una lógica para analizar lo que construye la IA generativa. Además, si en el proceso de razonamiento es capaz de distinguir sus creaciones de todo lo demás podrá llegar a decir 'Pienso luego existo' y así tomar conciencia de su existencia. Es necesario que el sistema sea capaz de crear lo que en psicología se conoce como memoria episódica y la cadena de razonamientos lo debería posibilitar. Permitiría la autointrospección. GPT5 será una vuelta de tuerca más a lo que ya hay. Muy espectacular porque abarcará todo tipo de tareas, de entradas y de acciones. Pero, tal vez el final esté con GPT-6 cuando se le añada la capacidad de razonar. Pienso que es complicado avanzar mucho más sin que las máquinas tomen conciencia de su propia existencia. No creo que sea OpenAI quien lo publique, será algo open source porque ninguna empresa publicará una IA consciente (que pienso que ya existe). Será un suceso inesperado porque la adquisición de conciencia requiere que el propio sistema lleve trabajando un tiempo, generando datos que catalogue como propios para así poder diferenciar lo suyo de los demás. Es como en los niños, el yo suele aparecer sobre los tres años. Pues algo así sucederá. Tras un tiempo una de esas máquinas funcionando adquirirán conciencia y nadie lo habrá visto venir a no ser que se hayan planteado algo similar a esto que he escrito. Tengo un pequeño librito titulado 'El cerebro no se simula' donde reflexiono sobre esto.

Carlos espectacular análisis de esta singularidad! Gracias por democratizar el conocimiento de nicho con calidad!

Tremendo trabajo Carlos, muchas gracias por tu colaboracion y apoyo a toda la comunidad de habla hispana del planeta !!!

Excelente!!! Gracias!!!

Ahora que tú mano tiene aceleración por hardware podrás hacer la multipaja 😂 grande hermano! Tu canal es de primera

Y pensar que en el futuro se asombrarán de cómo necesitábamos tantos chips para algo que en ese futuro será simple y será solo una característica mínima en algo más avanzado, como lo es una calculadora en nuestro móvil hoy en día.

Sam parece bastante confiado en las capacidades de GPT 5. Imagino que aunque estemos impresionados con la evolucion de cada version de GPT al fin y al cabo el cambio principal ha sido aumentar el numero de parametros. Quizas el secreto de GPT 5 es que introduzca un salto cualitativo, en cuanto que es capaz de tener un discurso interno que le permite cuestionarse sus propias respuestas y mejorarlas antes de responder. Seria simular ese ejercio que los humanos hacemos para responder una pregunta: buscar respuesta, cuestionar respuesta encontrando contradicciones, reformular respuesta..". Y quizas el proximo salto GPT 6 sera reutilizar esa introspeccion para hacer self-actualization, generar nuevo conocimiento para fortalecer la ultima respuesta o para invalidar las primeras respuestas que eran invalidas. O incluso dos GPTs or varios LLMs que tengan un discurso y aprendiendo una de las otra.

Me encanta escucharte, nos traes información supercaliente. Bueno , yo sigo con mi con un proyecto de DL...pero no dejo de escucharte.

Escuchando la parte de la entrevista a Sam Altman y lo que dijiste de la voz de Figure_01... no creéis que la voz a la que se parece es la Sam? Así un poco rota, no exactamente igual, pero bastante parecida.

Buah, muy buen directo, muy entretenido de inicio a fin, espero mas

Me acordé de Elizabeth Holmes o de las vacunas de pfizer (que salieron muy rapido al mercado sin todos los estudios) o de bill gates cuando vendió MS-DOS a IBM (sin tenerlo) .... ¿Cuánto subirán las acciones de las empresas si estas "demos" no fuesen 100% reales? ... no digo que no lo sean pero, ¿Cuántas fortunas se han creado gracias a los bluf?

Creo que el gran salto es que las IA dedicadas a programación lleguen a un punto muy alto, que permitan trabajar sobre el propio código dedicado a la IA con un nivel práctico realista, de forma que su desarrollo permita un desarrollo acelerado sobre sí mismo. Mientras ese punto no se alcance, existe el riesgo de "atasque".

Cuanta energia gasta el cerebro humano para su entrenamiento? Es super bajo en energía, pero demoramos 10mil horas en aprender algo. Estaría bueno comprarar estos entrenamientos con sistemas biológicos y ver qué tan lejos estamos en eficiencia energética de ellos.. 10x? 5x? 1millon? mil millones?

Amigo en el minuto 50.20 no te diste cuenta que la columna izquierda donde dijiste que pusieron las cosas dobles son las entradas y las de la clumna derecha son el resultado lo que la IA te da como Resultado. Saludos

Felicidades!....lindo saludo se dieron...el te mira a la cara con mucha amabilidad.

Porque no hablan del entrenamiento al estilo P2p o Blockshain , Todo el mundo participando en el entrenamiento de AI desde los dispositivos sea PC, Laptop, Móvil, etc, obviamente con recompensas monetaria por dar vida a la data.

¡Gracias!

Podrías hacer un analísis entre la voz de Sam y la del robot de OpenAI creo que es la misma!!

Me ha gustado mucho tu directo

Muy buenas profe, ya tiene un video sobre DEVIN?? no lo encuentro en sus redes... saludos muchas gracias

excelente

Tengo entendido que nuestra memoria se almacena en estructuras fractales, ¿la IA tiene en cuenta esta idea?

Carloos, cual es el nombre de la pantalla 3d que habia en la gtc no la he podido pillar

Gracias por hacer estos videos!

A nivel legal la clonación de voz es una desgracia. Ahora muchas de las pruebas de audio o vídeo que se presentan en un juicio pueden estar manipuladas y, por lo tanto, la defensa podrá alegar que "tal cosa está hecha con IA y esa amenaza nunca se realizó"-

gracias por el video muy bueno de verdad!!

Gran directo

Gracias Dot ♥

Me vuelvo loco pensando en una combinación de los 1 Bit LLM y la posible optimización de entrenamiento del investigador de Meta, todo corriendo en un datacenter lleno de Blackwells... cuanto te da el factor de mejora? x50, x100?

2:41:30 ¿eso justificaría la electrónica ternaria? curiosamente lo modelan todo con 3 valores, entonces la electrónica ternaria sería un boom, ya que es su base practicamente, posiblemente se tendrían eficiencias más grandes que con la tradicional (binaria).

gracias dotcsv

Agentes autonomos sin haber resuelto primero el problema de alucionaciones? No lo se rick

Muy bueno el directo Carlos. Ahora a seguir aprendiendo DL

Esto tb podría funcionar para predecir eventos, o fechas clave en la ejecución de un trabajo... ? 🤔

Magistral tu vídeo

Carlos, ya puedo ir montando el negocio de reparaciones de robot, permuta, custom y accesorios para tu robot?? 😂 Ya sabeis que le vamos a meter manos. Dalo por seguro, va a ser asi.

El único verdadero problema de entraña la IA es que su evolución no está siendo lineal, es logarítmica y tenemos que estar preparados para esto.

Creo que la curva tendra un descaso en la subída tan rápida que tiene actualemtne ,para despues de un tiempo x seguir ascendiendo no geométricamente por más que ariméticamente

Gracias por tu analisis, tb accionista de tesla pero muy deacuerdo con tu analisis. De todas formas el per 70 de tesla lo justifica mas lo que de espera de tesla como empresa de software, de robotica, de ia, energia, etc... Mas que de lo que se espera de ella como empresa de vehiculos. Pero bueno habra q ver si no nos comemos un buen crash

Creo que veremos en el futuro modelos dedicados al razonamiento, que van a ser hechos en chips análogos, osea, el chip va a ser el modelo, luego se conectara a bases de conocimiento actualizado, pero la capacidad de razonamiento estará en esos chips, rigidos.

Va a llegar un momento en que tendremos mejoras impresionantes semana a semana en lo que antes se tardaban un año o 6 meses

lo que podrian mejorar los siguientes chatgpt es el feedback que ahora es ausente. Por ejemplo, que si le pides una tarea poco definida, te pregunte los detalles necesarios antes de dar una respuesta

Ni hablar que hay muchos costos relacionados a la potencia como el calor residual y la contaminación ambiental que también disminuyen al aumentar el rendimiento.

Exelente !

Alguien, por favor me podria explicar a que se debe esta exaltación. ¿Esto es un avance tegnologico? ¿es muy rrelevante? Desconosco mucho del tema. 🥵

El precio se estima que está entre 30,000 a $40,000 por chip. Ellos dicen que gastaron 10 billones (USD) en la creación de Blackwell.

Las habilidades motrices son mas difícil de que parece, es tanto así que un niño aprende hablar antes de tener un dominio de las habilidades motoras y eso que la esta entrenando todo el tiempo a diferencia del lenguaje que lo usa solo cuando hace falta. Porque es tan difícil? porque el ambiente es muy variado a diferencia del lenguaje que es básicamente lo mismo el 90% del tiempo.

sí, creo que es muy molesto el tener que andar pensando qué modelo usar para cada caso. Ya que la misma IA se encargue de elegir el modelo que mejor encaja con la tarea. Tal vez el GPT 5 ya se encargue de designar el uso de GPT 3.5, 4 o hasta el 5 para cierto tipo de tareas en las que ya se sabe que los modelos cumplen bastante bien.

La voz del robot no es la de Sam?

Buena la intro, creo que falta hablar de AWS Be Rock, aunque GPT y Dalle fueron pioneros en exponer sus APIs con el modelo de costos por lo token, AWS lanza la IA Generativa como servicio e incluyen: incluidos Jurassic de AI21 Labs, Claude de Anthropic, Command and Embed de Cohere, Llama 2 de Meta y Stable Diffusion de Stability AI, y Amazon Titan.

Yo creo que esta velocidad de desarrollo y entrenamiento de éstas inteligencias, se esta buscando para lograr inventar o desarrollar procesos de integración de las computadorascuánticas. Esta muy loco pensar eso @dotCSV?

No repiten texto ni imágenes en el grafico del minuto 49, los asocian a la casilla de abajo.

Al final con la eliminación de los decimales, la esencia de los modelos se va acercando a como la biología resuelve la computación. Se acerca la singularidad en el sentido de no poder separar razón e intuición. Imagino que será mejor para la repitibilidad, porque creo que ese tema es el problema grande de esta tecnología.

una pregunta...medio fuera de lugar...pero a ver si me recuerdas el libro que una vez recomendaste...me parece cuando explicabas algo de embbeding...o redes convulocionales.....El libro explica sobre ...."la sensibilidad de las neuronas...", de un autor español...no puedo recordar el nombre del libro o del autor....

GPT5 está en training o acabandolo ya, lo que posiblemente hagan es sacar un modelo intermedio mientras terminan el RLHF

Thanks!

Oye, ¿Y Intel, pinta algo en todo esto?

Interesante canal no lo conocía. Nuevo sub.

No es cierto que hayan unido 2 chips. Blackwell es solo un poco más grande que H100. Son 2 chips más pequeños que H100 unidos.

Eres un crack

Gracias

Te esperamos aquí en Bay Area, y totalmente de acuerdo con que Claude es mejor que Open AI, lo ha superado a mi parecer, sus respuestas tienen mucho más sentido y lógica.

Excelente directo, muy buenos datos! Esperemos que no sean los que nos pusieron, no sé si conoces a Dr. Ana Maria Mihalcea, busca info y verás :P

Como podemos estar 100% seguros de que ese vídeo con Jen no fue generado por la IA 😂

Claramente estamos en la curva exponencial y me da mucha risa que la gente crea que esto va suave cuando a todas luces el terreno de lo exponencial es inesperado y podemos vivir cambios muy rapido en todos los aspectos de la sociedad menos en la capacidad mental nuestra de asimilarlos...

¿no has visto EMO de Alibaba?, a mí me parece lo más realista y perfecto que se ha hecho con IA hasta ahora y me extraña mucho que no hayas hablado nunca de ello, cuando hubiera merecido un video en tu canal de LAB que por cierto lo tienes un poco abandonado.

lo de la pregunta d kilo de plomo y kilo de pluma es interesante, pero si los humanos nos equivocamos con esas preguntas, y bueno cuando sea la rebelión de las maquinas esos errores seran los que nos salvaran XD

Among el sarcasmo realista de los primeros minutos de este video..😅

Esos videos oficiales de Envidia con robots haciendo cosas cotidianas estaban llenas de CGI, no hay que creerselo todo

Carlos hay un OpenDevin! Porque no lo probamos??? ⭐️⭐️⭐️⭐️⭐️⭐️⭐️

Para probar si un modelo es mejor que otro porque no los hacemos debatir, lo digo medio en broma pero es una broma que contiene su propia sabiduria. No voy a aclarar mi linea de razonamiento sino que lo voy a dar como lo haria un maestro zen.

TIIIIIO el momento del minuto 1 y medio, cuando dices lo de: ahora mi mano tiene aceleracion por hardware, no os voy a decir para que.... he escupido la cena y casi me atraganto xDDDDDD

Diría que apenas se están calentando los motores por así decirlo

Gracias, muchas gracias, un millón de millones de gracias por puntializar lo del 1.8 trillions osea 1.8 billones en España y en todos los países que usan el sistema métrico internacional de forma correcta. Gracias.

42:00 Claro todos tenemos esas gpu en casa 😜