Solo aquellos que tengan equipos con buena memoria RAM (16GB) o procesadores compatibles con la IA podrán interactuar con los modelos de lenguaje de forma local y privada.
Por Juan Carlos Luján, colaborador.
Semanas atrás comentaba en este espacio que a medida que la inteligencia artificial generativa avance, habrá nuevos desafíos de compra y exigencias de uso. Por un lado, está el factor privacidad. Si bien hoy podemos usar diversos modelos de lenguaje de forma gratuita y limitada conectándonos a internet, los datos que generamos al interactuar con las máquinas juegan a favor de estas empresas. Y no hablo de tu información personal, sino de toda la data que consultas y recibes al usar estos modelos de lenguaje. Esta información suele utilizarse para entrenar plataformas como ChatGPT, Claude, Gemini o Mistral, por citar algunos ejemplos.
PRECIOS ELEVADOS DE LOS PROCESADORES CON IA
Al otro lado, tenemos el factor precio. Si deseas procesar información confidencial y sin conectarte a internet debes tener un equipo robusto (mínimo 16 GB de RAM) o recurrir a una nueva línea de computadoras con procesadores compatibles con la inteligencia artificial. Estos equipos suelen tener precios muy superiores a una laptop promedio que emplea chips de alto rendimiento, multinúcleo, y con muy poco consumo de energía de las baterías.
Microsoft Surface, por ejemplo, tiene equipos con el procesador Intel Core Ultra, con precios, que según configuración, oscilan entre los S/.8.000 y S/14.000. Hay alternativas más económicas. Huawei, por ejemplo, ofrece laptops, con el mismo procesador, con precios inferiores a los S/.5.000. Las laptops de Apple, con sus procesadores M1, M2 y M3 (M4 lanzarán en breve), ya van por el mismo camino. La versión más económica bordea ese precio y la más cara llega a los S/.17.000.
HERRAMIENTAS IA LOCALES
Estos equipos con procesadores IA permiten usar herramientas locales, como Copilot, de Microsoft, que integran esta tecnología emergente en sus aplicaciones sin necesidad de conectarte a internet. Con Apple Intelligence ocurrirá lo mismo cuando lance el esperado SO Sequoia. Ahora mismo, por ejemplo, solo con ChatGPT Desktop, disponible para equipos Mac Book con procesadores a partir del M1, es posible aprovechar las bondades del uso confidencial del software de OpenAI.
¿Qué significa esto? ChatGPT4 es un modelo de lenguaje alojado en servidores en línea. Los usuarios interactúan con él a través de una interfaz web o API y la privacidad de los datos depende de la política de la empresa. Con ChatGPT Desktop todas las acciones las haces localmente en tu computadora y manera personalizada. Estoy comprobando que en una Mac Book Air M2 tienes el control sobre el modelo y los datos. No dependes de una conexión a internet, salvo la descarga del programa.
TUS DATOS EN SERVIDORES WEB
Cuando usas Gemini, Claude, Mónica, You.com, entre otros conectados a internet, hay que tener cuidado con la información confidencial. Es por ello que en el horizonte tecnológico se perfila una nueva brecha digital, una división que no solo se basa en el acceso a internet, sino en el tipo de tecnología que utilizamos y cómo la empleamos. En los talleres que dicto suelo abordar estos temas para dejar bien en claro que existen opciones de código abierto y de uso local como Jan, Orca, Phi o Llama 7b. Estos productos también ofrecen soluciones efectivas para el procesamiento de información sin la necesidad de depender de servicios en la nube. Sin embargo, requieren un mayor poder de cómputo, lo que implica una inversión en memoria RAM.
Los usuarios de equipos con chips potentes disfrutarán de mayor eficiencia y privacidad, ya que sus datos no necesitarán salir de sus dispositivos para ser procesados, mientras que el resto seguirá dependiendo de la inteligencia artificial generativa en la nube, cediendo inevitablemente data para el entrenamiento continuo de estos modelos.
Es un tema que desde ahora advertimos frente al vertiginoso avance de la inteligencia artificial generativa y que nos obliga a tomar ciertas precauciones si vamos a procesar información confidencial ante alguno de estos modelos de lenguaje.
