IA & Travail Social
| Culture numérique Occitanie
1/12

IA Générative Éthique et Responsable

dans le Travail Social

7 heures de formation
Professionnels du social
Approche pratique

Programme de la journée

Matinée (3h30)

1. Accueil et Introduction (30 min)

Présentation, contexte de la fracture numérique, dilemmes déontologiques

2. Comprendre l'IA Générative (1h15)

Définition, risques, cadre éthique, impact environnemental

3. IA et Médiation Numérique (1h45)

Niveaux d'accompagnement, approche "aller-vers", référentiel DigComp

Après-midi (3h30)

4. Atelier Pratique (1h30)

Prompt engineering, démonstrations, outils concrets

5. Études de Cas (2h00)

Analyse, réflexion collective, conclusion

Méthodes pédagogiques interactives et participatives

Objectifs de la journée

Comprendre

Les enjeux de la médiation numérique et le rôle de l'IA générative dans ce contexte.

Acquérir

Une première approche pratique des outils d'IA pour des tâches d'accompagnement.

Développer

Une réflexion critique sur les implications éthiques, sociales et environnementales de l'IA.

Favoriser

L'autonomie des professionnels face à l'IA pour mieux accompagner les publics fragiles.

Contexte : La fracture numérique

Exclusion des publics précaires

  • Personnes âgées peu familiarisées avec le numérique
  • Personnes maîtrisant mal le français
  • Publics en situation d'illettrisme
  • Personnes en situation de handicap
  • Ménages à faible revenu avec accès limité aux équipements

Dilemme déontologique

Tension entre :

Urgence des démarches

vs

Mission d'autonomisation

"Faire à la place de" ou "faire avec" ?

Problématiques juridiques

Protection des données

Respect du RGPD dans l'utilisation des outils d'IA

Responsabilité

Qui est responsable des erreurs ou préjudices causés par des conseils issus de l'IA ?

Transparence

Nécessité d'informer sur l'utilisation de l'IA et ses limites

Comprendre l'IA Générative

Définition et potentiel

L'IA générative crée du contenu (texte, image, audio) à partir de données d'entraînement.

Applications dans le social :

  • Création de supports pédagogiques
  • Aide à la décision pour les démarches
  • Animation d'ateliers adaptés
  • Traduction et simplification de textes

Limites :

  • Pas de compréhension réelle du contexte
  • Risque de "hallucinations" (informations inventées)
  • Biais dans les données d'entraînement
  • Dépendance à la qualité du prompt

Risques et vigilance

Biais algorithmiques

Les IA reproduisent les biais présents dans leurs données d'entraînement, pouvant conduire à des discriminations.

Hallucinations

Capacité à produire des informations fausses ou inventées de manière convaincante.

Principe clé :

"L'IA est un excellent assistant, mais un très mauvais maître"

Toujours vérifier les informations et garder son esprit critique.

Cadre éthique et réglementaire

Transparence

  • Mentionner l'utilisation de l'IA
  • Indiquer l'outil utilisé
  • Préciser les parties générées
  • Citer les sources quand possible

Éviter la confusion sur l'origine des résultats

Protection des données

  • Respect du RGPD
  • Ne pas partager de données sensibles
  • Vérifier les politiques des outils
  • Privilégier les solutions locales

Renforcer la confiance des utilisateurs

Règlement Européen sur l'IA

  • Exigence de non-discrimination
  • Documentation des systèmes
  • Contrôle humain pour les IA à risque
  • Transparence des algorithmes

Encadrement des usages à haut risque

Sobriété numérique

L'IA générative a une empreinte environnementale importante. Utiliser des outils comme compar:IA.gouv pour comparer l'impact.

L'IA au service de la médiation numérique

Les 3 niveaux d'accompagnement

Urgences numériques

Chatbots pour questions fréquentes, aide aux démarches administratives urgentes.

Inclusion numérique

Traduction automatique, reconnaissance vocale, interfaces simplifiées.

Montée en compétences

Création de contenus pédagogiques adaptés, quiz, parcours personnalisés.

Approche "aller-vers"

L'IA peut aider à identifier les publics éloignés du numérique et adapter les stratégies de médiation.

Stratégies omnicanales :

  • Combiner physique et numérique
  • Adapter les outils aux besoins spécifiques
  • Créer des ponts entre les mondes

La place de l'humain

L'IA est un outil, non un substitut à l'expertise humaine et à la compréhension des dynamiques sociales.

Le médiateur reste le praticien expert, garant de la relation humaine.

Référentiel DigComp

Compétences numériques pour les professionnels et les bénéficiaires

Évaluer

Données, informations et contenus numériques (fiabilité des sources IA).

Créer

Contenu numérique (y compris avec l'IA).

Protéger

Santé et bien-être (risques d'addiction, cyberharcèlement).

Identifier

Besoins et solutions numériques (accessibilité).

Soutenir

Les autres et partager ses compétences (rôle du médiateur).

Collaborer

Via les outils numériques, y compris avec l'IA.

Objectif final :

Renforcer le pouvoir d'agir numérique des bénéficiaires tout en maintenant une approche éthique et responsable.

Atelier : L'art du Prompt Engineering

Structure d'un bon prompt

1

Rôle

Définir qui doit répondre (ex: "Tu es un travailleur social expert en RSA...")

2

Tâche

Ce que l'IA doit faire (ex: "Crée un guide en 5 étapes...")

3

Contexte

Informations utiles (ex: "Pour des bénéficiaires en situation d'illettrisme...")

4

Contraintes

Limites à respecter (ex: "En moins de 300 mots, avec des phrases courtes...")

5

Format

Comment présenter la réponse (ex: "Sous forme de liste à puces...")

Techniques avancées

Prompting itératif

Affiner progressivement la réponse en posant des questions complémentaires.

Méta-prompt

Demander à l'IA de poser des questions pour affiner votre demande initiale.

Utilisation de sources

Importer des documents pour guider l'IA et réduire les hallucinations.

Exemples d'applications

Scénarios pédagogiques
Quiz d'évaluation
Résumés de textes
Veille informationnelle

Outils concrets à explorer

Pour la génération de textes, scénarios, aides à la décision.

Texte

Assistant conversationnel open-source et performant.

Open-source

Pour des recherches avec sources actualisées.

Recherche

Pour compiler et synthétiser des sources documentaires.

Documents

NAPKIN AI

Pour la création d'images et visuels adaptés.

Visuel

Agents spécialisés

Simulateurs d'entretien, assistants métiers spécifiques.

Spécialisé

Toujours vérifier les conditions d'utilisation et la politique de confidentialité des outils.

Études de cas et réflexion collective

Cas pratiques

Assistance administrative

Comment l'IA peut aider pour les démarches RSA, logement, etc. ?

Communication allophone

Traduction et adaptation culturelle avec l'IA.

Supports spécifiques

Création de ressources pour publics en situation de handicap.

Freins et solutions

Principaux freins :

  • Manque de confiance dans les résultats
  • Difficultés techniques d'utilisation
  • Crainte de la déshumanisation
  • Problématiques éthiques non résolues

Stratégies :

  • Formation progressive et accompagnée
  • Création de guides pratiques
  • Communautés d'échange entre pairs
  • Protocoles d'utilisation clairs

La place de l'humain

L'IA ne peut pas remplacer la complexité des dimensions sociales, psychologiques, économiques et culturelles. Le jugement humain reste indispensable.

Conclusion et perspectives

Mettre en place une dynamique collective

Réseau d'échange et communauté de pratique pour le partage d'expériences.

Continuer à se former

L'IA évolue rapidement, maintenir une veille active.

Rester centré sur l'humain

L'IA comme outil au service de la relation, jamais comme substitut.

Évaluation de la formation

Questionnaire de satisfaction et échange sur les acquis.

Made with DeepSite LogoDeepSite - 🧬 Remix