Imaginez que vous voulez acheter une maison. Vous avez déjà fait toutes les réflexions nécessaires, vous avez une solide assise financière, et vous vous rendez dans une banque pour contracter une hypothèque. Mais le personnel de banque vous répond qu’il ne peut malheureusement pas donner suite à votre demande. Le système externe qui est utilisé pour contrôler votre solvabilité atteste en effet que votre cote de crédit («credit score») n’est pas suffisante. Même si vous êtes en mesure de montrer, sur la base des données de la banque dont vous disposez, que vous bénéficiez en réalité d’une très bonne solvabilité, cette hypothèque ne vous sera pas accordée.
Un scénario de ce genre pourrait déjà se produire actuellement puisque des systèmes de prise de décision automatisée basés sur des données sont déjà utilisés dans certains secteurs économiques. En Allemagne, par exemple, la SCHUFA (Association de protection pour l’assurance générale de crédit) utilise déjà un système ADM («automated decision making») qui détermine la solvabilité des citoyennes et citoyens allemands. Ce qui démontre clairement qu’aujourd’hui déjà, les algorithmes ont une influence directe sur notre vie.
Changement de perspective au sein de l’espace numérique suisse de formation: les services numériques sont également de plus en plus utilisés dans le cadre de la complexité fédérale. Des applications d’apprentissage ainsi que des supports de cours et d’apprentissage génèrent et rassemblent des données sur l’enseignement et l’apprentissage dans des écoles, ainsi que sur les habitudes de comportement des élèves et du corps enseignant. En règle générale, ces données restent chez les prestataires. Sans tomber dans un alarmisme excessif, le fait qu’à un moment donné, dans un proche avenir, mon cursus de formation personnel dépendra de systèmes de prise de décision automatisés, ou qu’il sera influencé par ces derniers, peut parfaitement devenir une réalité.
Dans ce contexte toujours plus numérisé, et donc toujours plus basé sur des données, il ne faut pas seulement fixer des conditions-cadres organisationnelles, techniques et juridiques, mais aussi éthiques. Une première mesure à réaliser, déjà connue dans d’autres branches économiques, pourrait consister à définir des orientations éthiques fondamentales pour l’espace numérique suisse de formation et à les faire valoir à l’échelle nationale. Ces orientations éthiques fondamentales aideraient le système éducatif à utiliser les systèmes basés sur les données et l'utilisation des données en général de manière éthique. Cela inciterait le marché de la formation à développer des services et des systèmes éthiquement corrects.
Déterminer quelles orientations éthiques fondamentales doivent être obligatoirement respectées est un objectif qui doit faire partie d’un débat de grande ampleur à lancer au sein de l’espace numérique suisse de formation. Un débat qui devra impliquer également toutes les parties prenantes. C'est la seule façon de garantir la prise en compte de tous les besoins des multiples couches de ce paysage hétérogène de la formation. Nous avons déjà donné le coup d’envoi à ce débat en 2019 avec le rapport «Données dans l'éducation – Données pour l'éducation». Il est temps que nous le poursuivions!
Cet article est paru pour la première fois dans notre rapport annuel 2021.