Piña, la startup de base de datos vectoriales fundada por Edo Liberty, ex director de los laboratorios de inteligencia artificial de Amazon, ha estado durante mucho tiempo a la vanguardia en ayudar a las empresas a aumentar los modelos de lenguaje grandes (LLM) con sus propios datos. Sin embargo, más recientemente, la compañía rediseñó completamente su producto para lanzar Pinecone Serverless, lo que libera a sus clientes de tener que pensar en administrar sus implementaciones y escalarlas. Hoy, Pinecone serverless sale de la versión beta y ya está disponible de forma generalizada.
Liberty señala que los primeros clientes de la empresa ahora están pasando de experimentar con IA generativa a querer lanzar sus propios productos de IA. La compañía observó a las empresas lidiar con la complejidad de crear nuevas aplicaciones y al mismo tiempo descubrir la mejor manera de ponerlas en producción.
“La primera ola similar de aplicaciones de producción está llegando al mercado ahora y en los próximos seis a nueve meses. Lo que nuestros más de 5000 clientes nos dijeron alto y claro es que necesitan una herramienta dedicada, optimizada y especializada que sea extremadamente buena para realizar búsquedas vectoriales, realizar RAG, extraer conocimientos y generar contexto para estos modelos de lenguaje. Lo que realmente decían es: oye, necesito escala, necesito rendimiento y necesito que los costos sean tales que pueda razonar sobre el producto que estoy construyendo”.
Liberty enfatizó que Pinecone dedicó mucho tiempo a preparar el producto para implementaciones de producción, y al mismo tiempo lo hizo significativamente más asequible. De hecho, la compañía cree que los clientes que usan Pinecone sin servidor pueden reducir su costo hasta 50 veces, en parte porque el equipo rediseñó el sistema para que sea un servicio multiinquilino que desacopla el almacenamiento y la computación. Con eso, los clientes de Pinecone sólo pagan cuando realmente consumen tiempo de CPU, y la empresa organiza la capacidad en el backend.
“Debido a que ejecutamos todo como un servicio, nuestra capacidad para orquestar todo eso nos permite cobrar a las personas exactamente por lo que usan, y nada más. Eso es increíblemente raro e increíblemente difícil de hacer”, dijo Liberty.
Durante la vista previa pública, los clientes de Pinecone también solicitaron una serie de funciones adicionales. Uno de ellos es Private Endpoints, que se lanza hoy en versión preliminar pública. Esto permite a las empresas crear una conexión directa a sus nubes privadas virtuales en Amazon a través de AWS PrivateLink, que no expone sus datos a la Internet pública para garantizar que se mantengan dentro de los diversos regímenes de gobernanza y cumplimiento que una empresa puede tener que cumplir. .
Algunas de las empresas que ya utilizan Pinecone sin servidor incluyen Gong, Help Scout, New Relic, Notion, TaskUS y You.com.
“Notion está liderando la revolución de la productividad de la IA”, dijo el cofundador y director de operaciones de Notion, Akshay Kothari. “Nuestro lanzamiento de una función de IA, la primera en el mercado, fue posible gracias a Pinecone serverless. Su tecnología permite que nuestra IA de preguntas y respuestas brinde respuestas instantáneas a millones de usuarios, provenientes de miles de millones de documentos. Lo mejor de todo es que nuestro cambio a su última arquitectura ha reducido nuestros costos en un 60 %, avanzando en nuestra misión de hacer que la creación de herramientas de software sea omnipresente”.
