Lo que necesitas saber sobre la IA de Sakana
Dirígete a nuestra biblioteca bajo demanda para ver las sesiones de VB Transform 2023. Regístrate aquí
El panorama de la inteligencia artificial generativa (IA de generación) se encuentra en un rápido estado de evolución en estos días, no solo con OpenAI, Meta y Google compitiendo directamente en modelos básicos, sino que lo hace mientras algunos de sus mayores talentos internos se van para lanzar. sus propias startups de IA de generación.
El mes pasado se produjo una de las deserciones más grandes: Llion Jones, uno de los coautores del artículo de investigación fundamental de 2017 "La atención es todo lo que necesitas", que impulsó la revolución de la IA generativa al desarrollar la arquitectura de los transformadores utilizados en los principales lenguajes de gran tamaño. models (LLM), anunció que había dejado Google para fundar una nueva startup.
Esta semana, supimos en qué está trabajando: Sakana AI, una nueva empresa de inteligencia artificial con sede en Tokio.
Junto a él como cofundador de Sakana se encuentra David Ha, anteriormente jefe de investigación de Stability AI y ex investigador de Google Brain.
VB Transform 2023 bajo demanda
¿Te perdiste una sesión de VB Transform 2023? Regístrese para acceder a la biblioteca bajo demanda de todas nuestras sesiones destacadas.
Juntos en Sakana, están persiguiendo un modelo sorprendentemente diferente para la IA: uno de biomimetismo, específicamente buscando la inteligencia colectiva en sistemas que se encuentran en la naturaleza, como bancos de peces y colmenas, para diseñar modelos de IA que sean flexibles, reactivos y económicamente eficientes.
En Sakana AI, la visión de Jones es aprovechar esta tecnología para crear un modelo de IA generativa pionero y competente en la generación de texto, imágenes, código y contenido multimedia.
Hasta ahora, Sakana mantiene a sus patrocinadores en secreto y se niega a comentar a Reuters sobre quién está invirtiendo en la empresa.
Sakana AI se distingue por un enfoque novedoso que implica el desarrollo de numerosos modelos de IA más pequeños que colaboran, como un enjambre, para ofrecer resultados complejos.
Esta metodología desafía la tendencia dominante de construir sistemas extensos de IA.
Sakana AI confía en que su enfoque basado en enjambres, inspirado en la inteligencia colectiva, pueda proporcionar resultados a la par de sistemas más grandes y, al mismo tiempo, ser más económico y flexible.
"Las hormigas se mueven y forman dinámicamente un puente por sí mismas, que puede que no sea el puente más fuerte, pero pueden hacerlo de inmediato y adaptarse al entorno", dijo Ha a Bloomberg en una entrevista. "Creo que este tipo de adaptación es uno de los conceptos más poderosos que vemos en los algoritmos naturales".
El nombre Sakana se deriva de una palabra japonesa para pez (さかな) destinada a provocar que "un banco de peces se una y forme una entidad coherente a partir de reglas simples", dijeron los dos fundadores a The Financial Times.
La decisión de Sakana AI de establecer su base en Tokio es una medida calculada. Con su infraestructura técnica avanzada y su grupo de talentos altamente capacitados, Tokio está preparado para fomentar el crecimiento de las nuevas empresas de IA y atraer experiencia internacional. Sakana planea aprovechar estos beneficios para reforzar sus actividades de investigación y desarrollo, aunque la empresa aún tiene que instalar espacio de oficinas para su nueva sede.
La visión de Sakana AI trasciende la creación de modelos de IA, ya que Ha y Jones subrayan las deficiencias de los sistemas de IA contemporáneos que a menudo terminan siendo inflexibles. En cambio, proponen modelos de IA que incorporan principios de computación evolutiva, inspirados en la adaptabilidad de la naturaleza. Este enfoque podría potencialmente resolver problemas relacionados con el costo y la seguridad en los sistemas de IA.
Los cofundadores dijeron a CNBC que creían que el enfoque de Google en un solo tipo de tecnología de IA generativa, los grandes modelos de lenguaje, era un error "porque es un marco bastante restrictivo", dijo Jones.
Los cofundadores dijeron que han estado en conversaciones sobre el uso de LLM, pero no han tomado una decisión final. Sin embargo, Ha no los descartó: “Me sorprendería que los modelos lingüísticos no fueran parte del futuro”, dijo a CNBC.
La transición de Jones y Ha de Google a Sakana AI es un avance notable en el sector de la IA, especialmente en el ámbito de la IA generativa.
"Es sólo un efecto secundario de la gran empresa", dijo Jones en la entrevista de CNBC. "Creo que la burocracia había llegado al punto en que sentía que no podía hacer nada".
De manera similar, Ha ve los desafíos que enfrenta el líder en IA de la generación actual, OpenAI. Dijo que considera que el uso de la investigación de la que formó parte en Google no es nada innovador y expresó su preocupación por la falta de intercambio de desarrollo con la comunidad en general.
Al aprovechar el concepto de enjambre y los principios informáticos evolutivos, Sakana AI tiene como objetivo ofrecer soluciones de IA flexibles y rentables. Dado que Tokio se perfila como un núcleo para la innovación en IA, la presencia de Sakana AI en la ciudad contribuirá significativamente a la evolución futura de la IA generativa, mientras la industria de la IA espera la transformación que esta colaboración propone iniciar.
La misión de VentureBeat es ser una plaza digital para que los tomadores de decisiones técnicas adquieran conocimientos sobre tecnología empresarial transformadora y realicen transacciones. Descubra nuestros Briefings.
Dirígete a nuestra biblioteca bajo demanda para ver las sesiones de VB Transform 2023. Regístrate aquíLa misión de VentureBeat