ISPC

Institut de Seguretat Pública de Catalunya

SAIFty (2023-2024, microprojecte)

L’ISPC participa en un microprojecte europeu, finançat per Humane AI Net, centrat a desenvolupar un model d’intel·ligència artificial (IA) confiable per a millorar la consciència de la situació en intervencions policials

Web del projecte

  • Segona reunió (2024)

  • Primera reunió (2023)

  • Objectiu del SAIFty

  • Participants 

  • Durada

Umeå (Suècia), 22 i 23 de febrer de 2024

Objectius de la reunió

  1. Fer proves mitjançant el paradigma de realitat mixta (HoloLens) amb membres de la Unitat de Formació Policial d'Umeå (Suècia), per recollir dades (reacció i feedback) sobre l'ús de la IA en l’aturada d’un vehicle.
  2. Analitzar les dades d'aquestes proves a fi d'elaborar una metodologia per avaluar la implementació dels requisits d'IA de confiança en les intervencions policials.
  3. Investigar sobre possibles violacions de la privadesa de dades i dels drets civils i el marc legal sobre l'ús d'eines impulsades per IA en l'escenari descrit d'intervenció policial.
  4. Organitzar una reunió de socis per discutir i avaluar les dades recollides durant les proves i elaborar una metodologia per a l'avaluació dels requisits d'IA de confiança en les intervencions policials.
  5. Debatre accions de difusió sobre les conclusions del projecte i la participació dels socis (publicacions, conferències internacionals, etc.)
  6. Discutir els resultats del projecte i les conclusions per a futurs projectes de seguiment entre els socis.
umea

ISPC, 17 i 18 d'octubre de 2023 

Objectius de la reunió  

  1. Fer proves utilitzant el paradigma de realitat mixta (HoloLens), amb membres de l'Escola de Policia de Catalunya, per a recollir dades (reacció i feedback) sobre l'ús de la IA en l’aturada d’un vehicle.  
  2. Analitzar les dades d'aquestes proves per a elaborar una metodologia per avaluar la implementació dels requisits d'IA de confiança en les intervencions policials.
  3. Investigar sobre possibles violacions de la privadesa de dades i dels drets civils i el marc legal sobre l'ús d'eines impulsades per IA en l'escenari descrit d'intervenció policial.
  4. Organitzar una reunió de socis per a discutir i avaluar les dades recollides durant les proves i elaborar una metodologia per a l'avaluació dels requisits d'IA de confiança en les intervencions policials. 
  5. Debatre el pla de treball de l'estratègia de difusió del projecte.

L’objectiu és oferir eines d’IA per facilitar el treball de les unitats de seguretat ciutadana i millorar la seva pròpia seguretat i eficiència, protegint els drets dels ciutadans i augmentant la seva confiança. La transparència i la fiabilitat són els factors més limitants; pel que fa al desenvolupament de solucions d'IA per a la seguretat pública i els cossos de seguretat. Qualsevol desenvolupament hauria de ser útil tant per als ciutadans com per a la policia. Així doncs, durant el projecte es realitzaran proves utilitzant el paradigma de realitat mixta, és a dir, HoloLens, amb agents de policia per recollir dades i avaluar la implementació dels requisits d'una IA fiable en un escenari concret d’intervenció policial: l’aturada d’un vehicle.

El microprojecte té una durada de 6 mesos, del setembre de 2023 al febrer de 2024.

Data d'actualització:

18.10.2023