De impact van algoritmes in datingsites, navigatiesystemen en sociale media is al groter. De impact van recommenders in bijvoorbeeld gezondheidszorg, bij werving en selectie, fraudedetectie, en financieringsvraagstukken is enorm, zowel op individueel als op maatschappelijk niveau. Het is daarom urgent dat juist recommender-systemen volgens de waarden van Responsible AI ontworpen worden: veilig, eerlijk, betrouwbaar, inclusief, transparant en controleerbaar.
Om op een goede manier Responsible AI te ontwerpen moeten technische en contextuele vraagstukken worden opgelost, maar ook vraagstukken over hoe mens en algoritme met elkaar communiceren. Op technisch en contextueel vlak is veel vooruitgang geboekt, respectievelijk door onderzoek naar algoritmen die bijvoorbeeld ‘inclusiviteit’ in hun berekeningen incorporeren, en door ontwikkeling van wettelijke kaders. Over vraagstukken op communicatie tussen mens en algoritme bestaat daarentegen nog weinig concrete kennis. Bekend is wel dat gebruikers die via interacties het algoritme bij kunnen sturen vaak meer transparantie en betrouwbaarheid ervaren dan zonder de mogelijkheid tot interactie. Echter, slecht ontworpen interactiemogelijkheden kosten juist tijd, veroorzaken mentale overbelasting en een gevoel van incompetentie. Ze verhullen eerder dan dat ze tot transparantie leiden.
Het ontbreekt aan systematische en concrete bronnen over deze interactie- mogelijkheden, hun toepasbaarheid, en hun ethische grenzen. Ontwerpers, de beroepsgroep die deze interacties vormgeeft, voelen zich daardoor niet volledig in staat om met vertrouwen verantwoorde interactiemogelijkheden te ontwikkelen.