Intel y Microsoft están discutiendo planes para ejecutar el software Copilot localmente en PC en lugar de en la nube.

Acercarse / Requisitos básicos para una computadora con IA, al menos cuando ejecuta Windows.

Corporación Intel

Microsoft dijo en enero que 2024 sería el año de la “computadora con IA”, y sabemos que las computadoras con IA incluirán algunos componentes de hardware que la mayoría de los sistemas Windows no incluyen actualmente, es decir, una unidad de procesamiento neuronal (NPU) integrada. . Y el nuevo conmutador Copilot de Microsoft para teclados. Pero hasta ahora no hemos oído mucho sobre lo que la llamada PC con IA hará por los usuarios.

Microsoft e Intel están comenzando a hablar sobre algunos detalles como parte de un anuncio de Intel sobre un nuevo Programa para desarrolladores de IA para PC que alentará a los desarrolladores de software a aprovechar el hardware nativo para incorporar funciones de IA en sus aplicaciones.

Noticias principales Viene de los electrodomésticos de Tom.Lo que confirma que las PC con tecnología de IA podrán ejecutar «más elementos de Copilot, el asistente de chatbot con tecnología de IA de Microsoft,» localmente en el cliente». Actualmente, Copilot depende del procesamiento del lado del servidor incluso para solicitudes pequeñas, lo que proporciona un retraso tolerable. Si está realizando una solicitud de información a gran escala, pero no tanto si todo lo que quiere hacer es cambiar una configuración u obtener respuestas básicas, ejecutar modelos de IA generativa localmente también puede mejorar la privacidad del usuario, lo que hace posible beneficiarse de la IA. software potenciado sin enviar automáticamente la información a la empresa que la utilizará para una mayor capacitación del modelo.

READ  Neuralink dice que su primer implante de chip cerebral tuvo un problema

Actualmente, Windows no usa mucho las NPU locales, ya que la mayoría de las computadoras actuales no las tienen. Las funciones de la cámara web de Surface Studio pueden usar las NPU para efectos de video que ahorran energía y reemplazo de fondo, pero al momento de escribir este artículo eso es todo. Los sistemas operativos de Apple y Google utilizan NPU para una amplia gama de funciones de procesamiento de imágenes y audio, incluido el reconocimiento facial, el reconocimiento de objetos, el reconocimiento óptico de caracteres, la transcripción en vivo, la traducción y más.

Intel también dijo que Microsoft requerirá que las NPU de sus «PC con IA de próxima generación» alcancen velocidades de hasta 40 billones de operaciones por segundo (TOPS) para cumplir con sus requisitos. Intel, AMD, Qualcomm y otros a veces utilizan TOPS como métrica de rendimiento de alto nivel al comparar sus NPU; Los chips para portátiles Meteor Lake de Intel pueden alcanzar 10 TOPS, mientras que los chips para portátiles Ryzen 7040 y 8040 de AMD alcanzan 10 TOPS y 16 TOPS, respectivamente.

Desafortunadamente para Intel, la primera empresa en lanzar una NPU adecuada para ejecutar Copilot de forma nativa puede provenir de Qualcomm. El próximo Snapdragon de la compañía Los rumores sugieren que Microsoft cambiará la versión para consumidores de su tableta Surface a chips Qualcomm después de algunos años de ofrecer opciones de Intel y Qualcomm; Microsoft anunció una actualización de Surface Pro utilizando los chips Meteor Lake de Intel la semana pasada, pero solo lo vende a empresas.

Tanto Asus como Intel ofrecen un NUC con una CPU Meteor Lake y una NPU integrada como plataforma para el desarrollo de IA.
Acercarse / Tanto Asus como Intel ofrecen un NUC con una CPU Meteor Lake y una NPU integrada como plataforma para el desarrollo de IA.

Corporación Intel

Dicho todo esto, TOPS es sólo una medida de desempeño simplificada. Como ocurre cuando se utiliza FLOPS para comparar el rendimiento de los gráficos, es impreciso y no captura las diferencias en cómo cada NPU maneja diferentes tareas. La versión Arm de Windows todavía sufre problemas de compatibilidad de software y hardware que pueden seguir obstaculizando su progreso.

READ  Cómo reproducir YouTube en la pantalla inteligente Nest Hub de Google Home

Como parte de su programa de desarrolladores, Intel también ofrece un “Kit de desarrollo de PC AI” centrado en el Asus NUC Pro 14, una mini PC construida con el silicio Meteor Lake de Intel. Intel dejó oficialmente de fabricar mini PC NUC el año pasado y trasladó la marca y todos sus diseños a Asus. Asus también ofrece Todos los servicios de garantía y soporte de software restantes Para NUC más antiguos diseñados y vendidos por Intel. El NUC Pro 14 es uno de los primeros NUC nuevos anunciados desde la transición, junto con ROG NUC Mini PC para jugar.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *