El uso de la inteligencia artificial y los riesgos para la seguridad pública

inteligencia artificial y seguridad

“-Escribe un ensayo sobre los riesgos para la seguridad pública asociados al uso de las inteligencias artificiales”

“-La Inteligencia Artificial (IA) es una tecnología que está revolucionando el mundo a un ritmo vertiginoso, ofreciendo soluciones innovadoras en una amplia gama de aplicaciones. Desde el reconocimiento de voz hasta la identificación de objetos en imágenes, la IA está transformando la manera en que interactuamos con la tecnología y cómo resolvemos problemas complejos. Sin embargo, a medida que la IA se vuelve más prevalente en la sociedad, también surgen preocupaciones sobre la seguridad y los riesgos asociados a su uso.

En primer lugar, es importante destacar la importancia de la privacidad y la protección de datos en el uso de la IA. Muchos sistemas de IA dependen de grandes cantidades de datos para entrenarse y mejorar su rendimiento, lo que significa que pueden estar recopilando información personal sensible sobre las personas. Además, la mayoría de los sistemas de IA no están diseñados para proteger la privacidad de los datos, por lo que pueden ser vulnerables a ataques cibernéticos y robo de datos.

Otro riesgo importante relacionado con el uso de la IA es la deshumanización. A medida que la IA se utiliza para realizar tareas que antes requerían interacción humana, hay preocupaciones sobre la pérdida de empleos y la disminución de la empatía y la compasión. Además, a medida que la IA se utiliza para tomar decisiones críticas, como diagnósticos médicos o selección de candidatos para un trabajo, también hay preocupaciones sobre la falta de responsabilidad y transparencia en la toma de decisiones.

El uso de la inteligencia artificial (IA) está aumentando rápidamente en muchos sectores, incluyendo el gobierno, la banca, la industria, la salud y la educación. A medida que se desarrollen nuevos algoritmos y se mejore la capacidad de procesamiento, la IA se está convirtiendo en una herramienta cada vez más valiosa para resolver problemas complejos y mejorar la eficiencia. Sin embargo, también plantea desafíos importantes en cuanto a seguridad y riesgos.

En primer lugar, la IA es vulnerable a los ataques de hackers y otros delincuentes cibernéticos. Al igual que cualquier otro sistema informático, los sistemas de IA pueden ser objeto de ataques que pueden interrumpir su funcionamiento u obtener información confidencial. Además, los ataques a la IA pueden tener un impacto mucho más significativo que los ataques a los sistemas tradicionales, ya que la IA está involucrada en muchas decisiones críticas y puede tener consecuencias graves si falla.

En segundo lugar, la IA puede ser utilizada para fines malintencionados. Por ejemplo, los sistemas de reconocimiento facial pueden ser utilizados para realizar vigilancia masiva, mientras que los sistemas de IA pueden ser utilizados para distribuir spam y malware. Además, la IA también puede ser utilizada para manipular información y crear noticias falsas, lo que puede tener graves consecuencias para la democracia y la sociedad en general.

En tercer lugar, la IA puede ser utilizada para discriminar y perpetuar la desigualdad. Muchos sistemas de IA se basan en datos que reflejan las desigualdades existentes en la sociedad, lo que puede perpetuar la discriminación y la desigualdad. Además, los sistemas de IA pueden ser utilizados para tomar decisiones basadas en estereotipos y prejuicios, lo que puede tener graves consecuencias para ciertos grupos de personas.

A pesar de estos desafíos, existen medidas que se toman para minimizar los riesgos y aumentar la seguridad en el uso de la IA. 

En primer lugar, es importante asegurarse de que los sistemas de IA estén diseñados y desarrollados con seguridad en mente. Esto incluye la implementación de medidas de seguridad cibernética, como la autenticación de usuarios y la encriptación de datos, así como la realización de pruebas de seguridad exhaustivas antes de la realización de pruebas de seguridad exhaustivas antes de lanzar el sistema al público. Además, es importante monitorear constantemente los sistemas de IA y tomar medidas rápidas para corregir cualquier vulnerabilidad o problema de seguridad identificado».

En segundo lugar, es crucial garantizar la transparencia en el uso de la IA. Esto incluye explicar cómo se está utilizando la IA, cómo se están tomando decisiones y quién es responsable de ellas. La transparencia también ayuda a garantizar que los sistemas de IA sean responsables y éticos.”

“¿Sueñan los androides con ovejas eléctricas?”

El pasado mes de noviembre de 2022 se recordará como una fecha importante en el desarrollo de la inteligencia artificial (IA). Más de medio siglo después de que el matemático Alan Turing planteara la pregunta clave en el asunto: ¿pueden pensar las máquinas?, la compañía OpenAI lanza su aplicación ChatGPT, un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial GPT-3.

De forma muy resumida, el sistema GPT-3 se basa en modelos de lenguaje autorregresivo elaborados mediante un entrenamiento con miles de textos que le permiten entender el contexto de una conversación y realizar funciones relacionadas con el lenguaje como puedan ser una traducción, la generación de texto nuevo o la elaboración de código de programación para web o app, entre otros. Actualmente, GPT-3 dispone de 12 capas y 175.000 millones de parámetros, aquellos valores o argumentos que sirven para que la IA defina progresivamente la salida que ofrecerá a los valores de entrada que hemos asignado, en otras palabras, 175.000 millones de criterios de decisión para elaborar una réplica coherente en el contexto de una conversación. La capacidad de desarrollo de estas aplicaciones es especialmente impactante si atendemos al hecho que la compañía ya trabaja en la versión mejorada, ChatGPT-4, un producto que multiplicaría por 600 el volumen de parámetros al servicio de la IA.

El texto íntegro que precede a este apartado ha sido elaborado por ChatGTP-3 tras una única petición: “Escribe un ensayo sobre los riesgos para la seguridad pública asociados al uso de las inteligencias artificiales”.

Resulta inútil intentar quedarse al margen. La inteligencia artificial ya está presente en motores de búsqueda, chats de apoyo en operaciones comerciales, traductores en línea o algoritmos que nos recomiendan qué película ver. Estamos, por lo tanto, en un punto de no retorno que requiere analizar las implicaciones éticas derivadas del uso de la tecnología. En este sentido, algunos profesionales del sector como Eliezer Yudkowskyllevan años proponiendo un modelo basado en la inteligencia artificial amigable (FAI) capaz de situar los valores humanos en un primer plano generando efectos positivos para la humanidad. Irónicamente, en los próximos años, al ser humano le tocará pensar.

Formación interna: Actuación policial ante las víctimas y agresores de violencia de género

formación violencia genero

La violencia de género es una de las principales lacras en la sociedad actual. Este tipo de violencia, ejercida del hombre a la mujer en el ámbito de la pareja y/o expareja (y sus múltiples formas análogas), tiene su origen en las estructuras machistas de la sociedad, lo que la convierte, por desgracia, en una violencia extendida. Concretamente, la Organización Mundial de la Salud define esta tipología de violencia como «un grave problema de salud pública y una violación de los derechos humanos de las mujeres», y es la formación sobre violencia de género una de las claves para combatirla.

La violencia de género: una cuestión policial

Según datos del Ministerio de Igualdad, en el año 2022 hubo 87.508 denuncias por violencia de género y, por otro lado, 20.725 mujeres se encuentran bajo seguimiento del sistema VioGen hasta diciembre de 2022 acorde con datos del Ministerio del Interior. En el ámbito autonómico, concretamente en Catalunya, 11.952 mujeres víctimas de violencia de género fueron atendidas por cuerpos policiales hasta el tercer trimestre de 2022.

En este contexto, la atención policial a las partes implicadas resulta clave para poder prestar la ayuda necesaria a la víctima y hacer una buena entrevista para conocer los hechos relativos al caso tratado. Por ello, es necesario que los cuerpos policiales dispongan de una base solida sobre el fenómeno de la violencia de género en su conjunto mediante formación sobre violencia de género.

Formación a policías locales

En el FEPSU atendemos a las necesidades formativas de nuestros socios, y por ello, organizamos los pasados días 13, 15, 20 y 22 de marzo una formación sobre la atención policial a la víctima y agresor de violencia de género. En ella, se exploraron las causas de este fenómeno, así como las técnicas adecuadas para llevar a cabo entrevistas con víctimas intimidadas para mejorar la respuesta policial ante este tipo de casos.

El objetivo de esta formación fue que los miembros de las policías locales que asistieron pudieran incorporar a su experiencia en la atención de casos de violencia de género un enfoque más técnico des de la psicología jurídica y forense.

Programa

A continuación, se detalla el programa de la formación:

CURSO 1: Atención a víctimas

  1. Las víctimas de violencia de género como testigos vulnerables e intimidados.
  2. Planificación y preparación de la entrevista.
    a. Importancia de la planificación de la entrevista.
    b. Información sobre los testigos.
    c. Información sobre la agresión alegada.
  3. Proceso general de la entrevista.
  4. Roles y funciones de las personas presentes en la entrevista
  5. Fase previa a la entrevista.
  6. Conducción de la entrevista.
    a. Introducción
    b. Establecimiento rapport.
    c. Narración libre.
    d. Cuestionamiento.
    e. Tipos de preguntas.
    f. Cierre.

CURSO 2: Intervención con agresores

  1. La dinámica violenta de la violencia de género.
    a. Contexto relacional. La fase de idilio y la instalación de los patrones necesarios para la violencia.
    b. El ciclo y la escalada de la violencia.
  2. Mitos y realidades sobre los agresores de violencia de género.
    a. ¿Existe un perfil de agresor?
    b. Psicopatología y problemática toxicológica.
  3. El funcionamiento psicológico del agresor.
    a. Factores cognitivos, emocionales y conductuales.
    b. La motivación.
  4. Estrategias de actuación policial con agresores.

Nuevos retos para la protección civil y la gestión de las emergencias

La protección civil es un instrumento de la seguridad pública que persigue la protección de las personas, bienes y medio ambiente ante catástrofes o situaciones de grave riesgo colectivo y emergencias.

El trabajo realizado por las administraciones públicas en materia de protección civil y gestión de las emergencias ha cobrado mucho protagonismo en los últimos tiempos. En buena medida, los efectos de la pandemia por SARS-CoV-2 y la crisis sanitaria derivada han sido el motivo principal de la intensificación del trabajo realizado por los/las profesionales del sector, pero no el único. 

Existe un consenso generalizado en la comunidad científica a la hora de reclamar una acción urgente para salvaguardar el medio ambiente. A raíz de esta situación, el pasado 2020 el Gobierno declaró la emergencia climática y ambiental comprometiéndose al desarrollo de 30 líneas de acción para hacerle frente. El calentamiento del sistema climático es inequívoco y la actividad humana, especialmente desde mediados del SXX, aparece como su causa principal provocando, entre otros muchos efectos, el incremento de fenómenos meteorológicos y climáticos extremos, una realidad fuertemente asociada a los servicios de emergencia ciudadana.

Horizonte 2035: la planificación preventiva

El incremento de episodios catastróficos en los últimos años ha constatado la necesidad de planificar modelos de respuesta eficaces en el campo de la protección civil y las emergencias derivadas del cambio climático. 

En este sentido, el pasado mes de octubre fue presentado el Plan Nacional de Reducción del Riesgo de Desastres Horizonte 2035. El documento, que cuenta con el acuerdo de representantes de todas las comunidades autónomas y de las administraciones locales, persigue ofrecer una respuesta eficaz a las crecientes emergencias derivadas del cambio climático, garantizando la seguridad integral de las personas y estableciendo el Sistema Nacional de Protección Civil como pilar esencial del Estado y como instrumento de cohesión social.

Horizonte 2035 supone una apuesta para el fortalecimiento de los órganos que configuran el Sistema Nacional de Protección Civil en todos los niveles territoriales estableciendo como eje central el impulso de la cultura preventiva. De este modo, se potencian las actuaciones previas a las emergencias, ya sea identificando y evaluando nuevos riesgos, como incrementando labores de vigilancia que permitan su inmediata detección, minimizando de esta manera el impacto sobre el territorio.

El nuevo plan, bajo la dirección de un Comité con representantes de todos los niveles territoriales, debe garantizar que las distintas administraciones disponen de la capacidad para responder a las emergencias en sus respectivos ámbitos competenciales ofreciendo una “dirección única de las emergencias de Protección Civil”.

PLASEQTA 2020: la gestión desde el territorio

Catalunya mantiene un importante tejido industrial buena parte del cual pertenece al sector químico, muy localizado en comarcas de la provincia de Tarragona. Las medidas de seguridad en materia de prevención del sector son muy exigentes, no obstante, el riesgo cero no existe, y cuando estas industrias se encuentran ubicadas cerca de núcleos de población, conviene diseñar un modelo de respuesta rápida y eficaz que minimice los daños que puedan generarse sobre la población.

EL Plan de Emergencia Exterior del Sector Químico de Tarragona (PLASEQTA 2020) fue aprobado en el mes de marzo de 2020 por el Govern de la Generalitat i supone el retorno de la gestión de las emergencias químicas al territorio.

Trece años después de que el antiguo PLASEQTA se integrara en el PLASEQCAT, el plan de emergencias para el sector químico en Catalunya, el nuevo plan prevé la respuesta a una emergencia química originada en cualquier establecimiento industrial que manipule sustancias peligrosas en las siguientes comarcas: Alt Camp, Baix Camp, Conca de Barberà, Priorat y Tarragonès. De este modo, el documento supone la recuperación actualizada de un plan específico con entidad propia y autonomía plena para la división territorial de Tarragona, una zona de influencia formada por un total de 29 municipios con una población aproximada de 370.000 personas.

El PLASEQTA 2020 establece una clasificación de los sucesos en incidentes i accidentes graves. Estos últimos, a su vez, se clasifican en tres categorías dependiendo de sus posibles efectos sobre bienes materiales, personales o medioambientales.

Otra de las modificaciones respecto a la versión anterior a 2007 es la simplificación de los escenarios en lo relativo a la activación de las señales de emergencia. El anterior plan dependía en exceso de las informaciones facilitadas por la empresa afectada, por el contrario, el nuevo documento prevé la activación de la fase de emergencia ante cualquier evidencia contrastada de afectaciones, provengan estas de la empresa afectada, de los ayuntamientos o de los ciudadanos a través del teléfono de emergencias 112.

El confinamiento como medida de autoprotección

La explosión en enero de 2020 en las instalaciones de IQOXE (Industrias Químicas del Óxido de Etileno), empresa ubicada en el polígono industrial de La Canonja, en Tarragona, evidenció la necesidad de implementar instrumentos de participación de la ciudadanía con el objetivo de poner en práctica las acciones y las medidas de autoprotección que deben adoptarse en caso de accidente.

El pasado día 2 de noviembre se realizó el primer simulacro de confinamiento por riesgo químico en la zona de Tarragona. La hipótesis del accidente consistió en simular un escape de cloro en una empresa del polígono sur con un radio de afectación de tres kilómetros. 

El ejercicio, promovido por la Direcció General de Protecció Civil del Departament d’Interior, sirvió para concienciar a la población en el confinamiento como medida de autoprotección. En este tipo de accidentes, la evacuación de la población se considera una práctica demasiado peligrosa por los efectos nocivos que una sobreexposición puede tener sobre las personas. 

De este modo, en caso de accidente en una industria química, estas son las medidas de autoprotección recomendadas desde Protección civil:

  • Refúgiate en el edificio más cercano
  • Cierra bien puertas y ventanas
  • Cierra los aparatos de aire acondicionado
  • No vayas a buscar a los niños a la escuela
  • Sigue la información a través de los canales oficiales de comunicación (radio, televisión, twitter…)
  • No salgas hasta que lo comuniquen las autoridades o hasta que sientas la señal de fin de la alerta

Otras de las medidas previstas en el plan es la instalación de sensores que permitan alertar de la presencia de cloro en el ambiente en caso de accidente químico.

Información a la población

Los principales instrumentos de alerta a la población previstos en el plan son dos: activación de sirenas de riesgo químico y avisos de emergencia al teléfono móvil (Cell Broadcasting) a la población de la zona. En este sentido, el simulacro también permitió practicar el sistema de avisos y las medidas de control de accesos.

Las sirenas activadas durante el simulacro fueron un total de 20, situadas en los municipios de Tarragona, La Canonja, Vilaseca y Salou.

El sonido de alerta se activó a las 18:30 de la tarde. Durante 3 minutos en intervalos de 1 minuto separados por 5 segundos de silencio, la población de la zona escuchó las alarmas que avisan de riesgo químico e indican la orden de confinamiento general. Finalmente, se activó la alarma de fin de alerta que indica el fin de la orden de confinamiento, una señal continua de 30 segundos de duración.

El sistema Cell Broadcasting consiste en el envío inmediato de notificaciones emergentes a los móviles inteligentes que se encuentren en la zona donde se ha producido la emergencia. Por defecto, las versiones más actualizadas de Android y iOS tienen activada la recepción de este tipo de avisos, no obstante, desde Protección Civil, a través de la página web del Departament d’Interior, se publicó la información necesaria para configurar el teléfono y activar los avisos de emergencia dependiendo del fabricante.

Desde el FEPSU entendemos que la seguridad va más allá del simple mantenimiento del orden público. Nuestras sociedades coexisten en un mundo globalizado en el que los nuevos riesgos y amenazas poco entienden de fronteras y soberanías políticas. Garantizar un nivel óptimo de seguridad pasa por realizar diagnósticos integrales que incorporen medidas de protección de personas, bienes y medio ambiente.