¿Cómo regular grandes modelos de inteligencia artificial (IA) sin limitar la innovación? Este tema sensible está en el centro de las tensiones en torno a la Ley AI, el proyecto de reglamento europeo. Algunos, incluido el Parlamento Europeo, quieren imponer fuertes obligaciones a los modelos de procesamiento de idiomas detrás de servicios como ChatGPT. Otros, como el presidente de la República Emmanuel Macron y las start-ups francesas Mistral AI o LightOn, se oponen a medidas que creen que impedirían el surgimiento de buques insignia europeos en este campo. En un intento por encontrar un problema al conflicto, el Comité Nacional Piloto de Ética Digital (CNPEN) propone una solución, en una opinión consultiva emitida el miércoles 5 de julio.
“No tendríamos acceso a distinguir entre los modelos puestos en el mercado, sujetos a las mismas fuertes obligaciones que las aplicaciones de inteligencia artificial de alto riesgo, y los modelos publicados abiertamente, a los que solo se les exigiría que fueran transparentes y publicaran reseñas», explica Raja Chatila, profesor emérito de la Sorbona y coponente del dictamen encargado por el Ministro Delegado de Asuntos Digitales, Jean-Noël Barrot.
en modelos » Poner en el mercado « Se clasificarán las interfaces que se ofrecen al público en general, como ChatGPT, el ya famoso robot conversacional lanzado en diciembre de 2022 por la empresa estadounidense OpenAI. O sus competidores como Bard, de Google. También incluiría los principales modelos de procesamiento de lenguaje que las empresas pueden consultar de forma remota, utilizando una interfaz llamada API, por un pago de unos centavos por consulta: entre ellos, GPT-4, de OpenAI, o sus equivalentes lanzados por Google, para ejemplo. Los modelos de generación de imágenes como Dall E2 o Midjourney se verían afectados de la misma manera.
Saños interfaz para el público en general
Por otro lado sería torturado «acceso libre» modelos similares publicados en código abierto, sin interfaz para el público en general. Un método de distribución que la start-up Mistral AI, en particular, ha dicho que quiere adoptar para su futuro software. Estos modelos solo tendrían que ser transparentes, por ejemplo, para los datos utilizados para su entrenamiento, y publicar pruebas comparativas, por ejemplo, sobre sesgos conocidos, como el sexismo. Sin embargo, en el caso de que una empresa lo utilice para un servicio considerado de alto riesgo en la Ley de IA (por ejemplo, para un diagnóstico de salud, acceso a un servicio público o empleo), estaría sujeta a obligaciones más estrictas.
Le queda por leer el 34,01% de este artículo. Lo siguiente es solo para suscriptores.