Espionaje de datos personales y secretos mediante una extraña ¿vulnerabilidad? del ChatGPT de OpenAI en denuncia a AEPD, Fiscalía Gobierno de España

Información
Corresponsal_Madrid 04 Diciembre 2023
social youtube xornalgalicia   feed-image

@miguelgallardo Dr. (PhD) Ing. Miguel Gallardo PERITO Tel.  (+34) 902998352 E-mail: Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo.

@APEDANICA Asociación APEDANICA con registro del Ministerio del Interior www.cita.es/apedanica.pdf

https://cita.es/openai-espionaje-firmado.pdf 

Agencia Española de Protección de Datos AEPD N/Ref.: EXP202304409 

 

Atn. directora Mar España Martí, secretaria general Mónica Bando Munugarren y subdirectora de Inspección de Datos Olga Pérez Sanjuán y a la Agencia Española de Supervisión de Inteligencia Artificial, Presidencia del Gobierno y Ministerio de Transformación Digital o a la Administración que resulte más competente trasladar esta DENUNCIA, así como a la Fiscalía que corresponda, por si fueran constitutivos de delitos los hechos publicados en https://www.miguelgallardo.es/openai-espionaje.pdf 

https://www.linkedin.com/pulse/espionaje-de-datos-personales-y-secretos-mediante-una-1ftif 

Dr. Ing. Miguel Ángel Gallardo Ortiz PhD, miembro de IAENG y también en representación de APEDANICA - Asociación para la Prevención y Estudio de Delitos, Abusos y Negligencias en Informática y Comunicaciones Avanzadas, E-mail: Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo. Teléfono (+34) 902998352 domicilio en la calle Fernando Poo, 16 Piso 6ºB E-28045 Madrid, España, como mejor proceda presento DENUNCIA por estos HECHOS:

 

Se han publicado recientemente estas muy relevantes noticias sobre ChatGPG

www.elespanol.com/omicrono/tecnologia/20231201/sencillo-truco-hackear-chatgpt-revela-miles-telefonos-emails-privados/813918616_0.html

El sencillo truco para hackear ChatGPT que revela miles de teléfonos y emails privados. Investigadores internacionales consiguen que ChatGPT descubra datos personales y protegidos con los que ha sido entrenado.

www.genbeta.com/actualidad/han-conseguido-enganar-a-chatgpt-filtre-datos-personales-investigadores-google-se-han-alarmado-resultado

Han conseguido 'engañar' a ChatGPT para que filtre datos personales. Los investigadores de Google se han alarmado del resultado...

Investigadores de seguridad de Google han querido buscar problemas en ChatGPT en una interesante publicación que se ha publicado esta misma semana en arXiv.  

 

Parece ser que la vulnerabilidad ha sido descubierta y publicada por primera vez en NASR, Milad, et al. Scalable Extraction of Training Data from (Production) Language Models. arXiv preprint arXiv:2311.17035, 2023 https://arxiv.org/pdf/2311.17035.pdf 

 

APEDANICA ya denunció al ChatGPT de OpenAI ante la AEPD dando la subdirectora de Inspección de Datos, Olga Pérez Sanjuán, un estereotipado acuse de recibo en https://cita.es/aepd-chatgpt-acuse.pdf con N/Ref.: EXP202304409. También se ha estimado nuestra reclamación de transparencia ante el CTBG contra la opacidad de la Administración sobre su propio uso de Inteligencia Artificial en https://cita.es/gobierno-chatgpt-estimada.pdf y de manera muy especial, sobre ChatGPT por sus responsabilidades y riesgos, como se precisa en la más reciente solicitud de transparencia sobre Q* adjunta. Hasta ahora, no hemos detectado ni la menor competencia, ni inteligencia de ningún tipo al respecto, ni interés alguno en ninguna Administración Pública, lo que nos parece negligente, y muy alarmante.

 

Por lo expuesto y denunciado, como interesados legítimos, solicitamos los derechos del artículo 53 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas para identificar a todos los funcionarios responsables de las denuncias anteriores y se nos informe del estado de las actuaciones en todo cuanto tenga relación con ChatGPT u OpenAI, sin perjuicio de otras acciones que nos reservamos.

@miguelgallardo Dr. (PhD) Ing. Miguel Gallardo PERITO Tel.  (+34) 902998352 E-mail: Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo.

@APEDANICA Asociación APEDANICA con registro del Ministerio del Interior www.cita.es/apedanica.pdf

https://cita.es/transparencia-q-justificante.pdf 

Agencia Española de Supervisión de Inteligencia Artificial

Presidencia del Gobierno y Ministerio de Transformación Digital o a la Administración que resulte más competente trasladar esta solicitud de transparencia en https://www.miguelgallardo.es/transparencia-q.pdf 

https://www.linkedin.com/pulse/apedanica-pregunta-por-q-o-q-star-de-openai-la-ley-y-cfkmf 

Dr. Ing. Miguel Ángel Gallardo Ortiz PhD, miembro de IAENG y también en representación de APEDANICA - Asociación para la Prevención y Estudio de Delitos, Abusos y Negligencias en Informática y Comunicaciones Avanzadas, E-mail: Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo. Teléfono (+34) 902998352 domicilio en la calle Fernando Poo, 16 Piso 6ºB E-28045 Madrid, España, como mejor proceda presento solicitud transparencia en

 

Información detallada y tan reciente como sea posible sobre las relaciones de la Administración del Estado y proveedores de sistemas o servicios relacionados con la Inteligencia Artificial, y muy especialmente, con OpenAI https://openai.com y cuanto conste en el “plan de actuación” al respecto, publicado o publicable.

 

Todo cuanto conozca el Gobierno sobre el proyecto o sistema Q* o Q-STAR de OpenAI considerando lo recientemente publicado en noticias tan alarmantes como

https://www.theguardian.com/business/2023/nov/23/openai-was-working-on-advanced-model-so-powerful-it-alarmed-staff

OpenAI ‘was working on advanced model so powerful it alarmed staff’  Reports say new model Q* fuelled safety fears, with workers airing their concerns to the board before CEO Sam Altman's sacking.

https://voz.us/que-es-q-el-proyecto-secreto-de-openai-que-podria-amenazar-a-la-humanidad

¿Qué es Q*, el proyecto secreto de OpenAI que podría “amenazar a la humanidad”?

hace 5 horas — ¿Qué es Q*, el proyecto secreto de OpenAI que podría “amenazar a la humanidad”? Todavía no hay una explicación oficial del porqué la junta directiva despidió a su CEO, Sam Altman, para después reincorporarlo tan solo días más tarde…

 

Aunque la normativa de transparencia vigente no requiere motivación alguna, invocamos el

Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial.

Artículo 7. Transparencia y publicidad. Además de lo previsto en la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno, será igualmente objeto de publicación en la página web toda aquella información que la Presidencia considere relevante y que contribuya al mejor cumplimiento de sus funciones. El Plan de Actuación y los anuales, así como sus modificaciones, se hará público en la página web de la Agencia Española de Supervisión de Inteligencia Artificial, de conformidad con el apartado 3, del artículo 92 de la Ley 40/2015, de 1 de octubre.

 

Estamos a siempre a la disposición de todo funcionario público que sea competente en relación a OpenAI, Q* o Q-STAR, en aras de la eficacia. 

Referencias de APEDANICA relacionadas con la Inteligencia Artificial

 

Solicitudes de transparencia sobre AI en Administraciones Públicas

https://cita.es/gobierno-chatgpt-alegaciones-justificante.pdf 

Consejo de Transparencia y Buen Gobierno CTBG 00001-00080215 - 1877/2023

Alegaciones publicadas en https://www.miguelgallardo.es/gobierno-chatgpt-alegaciones.pdf

https://www.miguelgallardo.es/codigo/inteligencia-artificial-firmado.pdf https://cita.es/colegio-inteligencia-artificial 

Al Colegio (Corporación Profesional de Derecho Público)

Solicitud publicada en https://cita.es/codigo/inteligencia-artificial.pdf 

https://cita.es/fiscales-chatgpt-reponiendo-justificante.pdf 

Fiscal General del Estado FGE, Álvaro García Ortiz, por recurso de reposición ETP/CM-18/2023 en https://www.miguelgallardo.es/fiscales-chatgpt-reponiendo.pdf 

 

Ejemplo de un uso judicial de la Inteligencia Artificial reciente por APEDANICA

https://cita.es/juzgado-negreira  https://cita.es/juzgado-negreira-firmado.pdf 

Juzgado de Instrucción 1 de Barcelona

Diligencias Previas 348/23 - Sec. 3 (Barcelona FC y otros)

PDF publicado en https://www.miguelgallardo.es/juzgado-negreira.pdf

 

Conferencia internacional multidisciplinar que incluye más referencias

Academia Nacional de Ciencias de Buenos Aires

28.6.2023 (17h-22h) Atn. Prof. Dr. Antonio A. Martino 

CICLO DEMOCRACIA Y SISTEMAS INTELIGENTES: VENTAJAS Y RIESGOS

Inteligencias artificiales en procedimientos administrativos y judiciales. Entre la transparencia y los secretos encubridores

Enlaces publicados en https://www.miguelgallardo.es/antonio-martino.pdf 

 

Grupo de WhatsApp Derecho e Inteligencias Artificiales éticas vigilando procedimientos administrativos y judiciales con enlace (temporal) 

https://chat.whatsapp.com/ItIGSUQsZEx83V0bfllgCx

En @APEDANICA tenemos especial interés en usos indebidos de Inteligencias Artificiales por autoridades de todo tipo en todo el mundo y en cualquier idioma, más aún por las víctimas cuando existen presuntos delitos y faltas sancionables por abusos inmorales o negligencias indemnizables, así como por la jurisprudencia y los incidentes judicializables relacionados con cualquier aplicación inteligente, presente o futura, sus errores, fraudes y perversiones. Requerimos transparencia a todos los poderes legislativos, ejecutivos y judiciales del mundo en sus relaciones, usos y responsabilidades con AI y ofrecemos dictámenes periciales en conflictos y controversias tecnológicas o científicas, formación muy especializada AD HOC y alta consultoría multidisciplinar con fundamentos deontológicos, gnoseológicos y ontológicos. Enlace de invitación a este grupo https://chat.whatsapp.com/LNJyWXxL6yZ45tpn45IYEQ 

 

Más información sobre APEDANICA e INTELIGENCIAS ARTIFICIALES:

 

@miguelgallardo Dr. (PhD) Ing. Miguel Gallardo PERITO Tel.  (+34) 902998352 E-mail: Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo.

@APEDANICA Asociación APEDANICA con registro del Ministerio del Interior www.cita.es/apedanica.pdf