
Car les algorithmes sont aujourd’hui capables de produire de manière réaliste des images, des vidéos et des voix de n’importe quel individu à partir de très peu d’extraits.
Ces derniers temps, l'usage des IA génératives d'images a provoqué une série de controverses, notamment avec la création de fausses nouvelles qui ont largement circulé. Un exemple frappant est l'image du pape François vêtu d'une doudoune blanche, qui a été prise au sérieux par de nombreuses personnes avant d'être démentie. Ce type de manipulation visuelle démontre à quel point il est facile de tromper le public avec des images fabriquées de toutes pièces. Le véritable enjeu réside dans le potentiel de ces technologies à produire des arnaques de plus en plus sophistiquées. Les IA génératives peuvent recréer des visages ou des scènes réalistes à partir de seulement quelques photographies. Cela signifie qu'il devient possible d'usurper l'identité d'individus de manière convaincante, en utilisant leurs visages dans des contextes où ils n'ont jamais été. Par exemple, des escrocs pourraient créer de fausses vidéos d'une personne pour obtenir des informations sensibles ou des fonds financiers, en exploitant la crédibilité des images. Cette capacité à fabriquer des preuves visuelles crédibles pose de graves questions éthiques et légales. Les professionnels de l'image doivent être conscients des outils à leur disposition et des dérives potentielles. Il est crucial de développer des méthodes de vérification et de sensibilisation pour éviter la propagation de contenus trompeurs. En outre, une réglementation appropriée pourrait être nécessaire pour encadrer l'utilisation de ces technologies et protéger les individus contre les abus. Les enjeux de l'IA générative d'image touchent aussi à la notion de confiance dans les médias et les plateformes en ligne. À mesure que les outils deviennent plus accessibles et puissants, la capacité du public à distinguer le vrai du faux pourrait être sérieusement compromise. Ainsi, les professionnels de l'image jouent un rôle clé dans la défense de l'intégrité visuelle. Ils doivent non seulement adopter des pratiques éthiques, mais aussi participer activement à l'éducation du public sur les dangers des images générées par IA.

Car les bases de données nécessaires au bon fonctionnement des IA sont composées grâce au travail d’opérateurs qu’on appel des micro-travailleurs.
L'intelligence artificielle, bien qu’au service de l'humain, nécessite une aide humaine pour être opérationnelle. Cette aide se fait via des plateformes comme Mechanical Turk, Microworkers, et UHRS, qui connectent les entreprises à des micro-travailleurs. Ces travailleurs réalisent des micro-tâches répétitives, souvent sans compétences spécifiques. Leur rôle est souvent occulté pour maintenir l'illusion de l'automatisation complète. Cette main-d'œuvre est essentielle pour des tâches que les algorithmes ne peuvent pas encore accomplir avec une faible marge d'erreur, comme reconnaître des éléments sur des images, surtout quand ceux-ci sont potentiellement problématiques, violents ou pornographique. Le développement rapide des outils d'IA cache ces réalités, et les conditions de travail des micro-travailleurs ne sont pas au centre des débats, car les révélations pourraient nuire à l'image de l'IA. Leur rémunération est faible, environ 300€ par mois pour un plein temps, et les plateformes manquent de transparence et peuvent bannir les travailleurs sans explication. Les micro-travailleurs, majoritairement originaires de pays comme le Nigeria, le Pakistan, et Madagascar, échangent via les réseaux sociaux et se plaignent de la précarité de leur emploi. Pour améliorer ces conditions, une transparence accrue et une pression des utilisateurs sont nécessaires. À long terme, cela rendrait le domaine de l'IA plus éthique sans éliminer le caractère répétitif des tâches. En outre, l’IA utilise des appareils portatifs avec des batteries contenant des matériaux rares, souvent extraits dans des conditions inhumaines, notamment le cobalt en République démocratique du Congo. Un engagement des entreprises de technologie et des accords avec les fournisseurs sont nécessaires pour améliorer cette situation.

À qui appartiennent les images générés par IA ? Elles sont produites grâce au prompt d’utilisateurs, aux développeurs et aux travaux d’artistes utilisés sans consentement.
Qu'est-ce que la propriété intellectuelle et comment la définir ? Une œuvre nous appartient-elle parce que nous l'avons produite, parce qu'elle découle de notre réflexion, ou en raison de son caractère original ? Selon la loi française, le droit d'auteur protège les œuvres de l'esprit, indépendamment de leur genre, forme d'expression, destination ou mérite. Le critère fondamental de protection est l'originalité, entendue comme l'empreinte de la personnalité de l'auteur. L'originalité se définit comme l'absence de modèle connu, rendant une œuvre différente de toutes celles existantes. Cependant, la création est un processus complexe, influencé par la culture, les références et les expériences de l'auteur. Lorsqu'une intelligence artificielle (IA) génère une image, elle utilise une vaste base de données de références culturelles et visuelles. Cette méthode soulève des questions sur l'originalité et le plagiat, notamment si l'image produite est trop proche d'une référence existante. Un utilisateur demandant à une IA de générer une image spécifique, comme une Renault Clio, obtiendra une image très semblable à un modèle existant, ce qui peut être perçu comme une copie. Si l'utilisateur ne fait pas référence à une œuvre précise, il est plus difficile de juger d'un potentiel plagiat. Un illustrateur, conscient de ses références, peut éviter des similitudes évidentes, contrairement à une IA qui n'a pas cette capacité critique. L'IA générative ne peut pas être considérée comme un créateur au sens juridique. Seul un humain peut être reconnu comme auteur. Ainsi, une image générée par IA appartient-elle à l'utilisateur ? La réponse n'est pas claire, car l'utilisateur n'a pas de contrôle total sur le résultat. Si l'image est retravaillée et personnalisée par l'utilisateur, elle peut alors répondre aux critères d'originalité et être protégée par le droit d'auteur. Le photobash, technique où l'illustrateur utilise des fragments de photos pour créer une nouvelle image, illustre les complexités du droit d'auteur. L'usage de photos protégées nécessite des modifications suffisantes pour éviter des réclamations de violation du droit d'auteur. De même, les IA génératives s'inspirent de bases de données contenant des œuvres protégées, soulevant des questions éthiques et légales. Les développeurs d'IA utilisent des datasets massifs pour entraîner leurs modèles, souvent sans l'accord des auteurs des images. Bien que les images générées soient nouvelles, le processus de création par IA est similaire au photobash, utilisant des références pour créer des œuvres inédites. Pourtant, les développeurs se défendent en affirmant que la responsabilité des images générées incombe avant tout à l'utilisateur. Les artistes sont préoccupés par l'utilisation de leurs œuvres sans consentement et par la concurrence déloyale des IA. Des initiatives comme Nightshade, développée par l'université de Chicago, cherchent à empoisonner les images pour perturber les algorithmes de génération. Cela pose un défi aux développeurs d'IA pour détecter et contrer ces empoisonnements. Aux États-Unis, la justice a statué qu'une image générée par IA ne peut être protégée par un copyright, car elle n'est pas le fruit d'une création humaine. Cette décision est cruciale car les principaux acteurs de l'IA sont basés aux États-Unis et leurs outils doivent se conformer à la législation locale. En Europe, l'IA Act vise à encadrer l'usage des IA et à protéger les droits d'auteur en imposant aux IA de citer leurs sources. Cependant, la complexité des datasets rend cette application difficile en pratique. En résumé, la propriété des images générées par IA reste indéfinie. L'image générée appartient simultanément à tout le monde et à personne. La création par IA soulève des enjeux économiques et juridiques significatifs, et les réglementations devront encore évoluer pour répondrent à ces nouveaux défis.

En sélectionnant des projets mais aussi des outils alignés avec ses principes éthiques, et en sensibilisant à l’impact potentiel de certaines nouvelles technologies.
L'intelligence artificielle (IA) fascine par ses avancées et ses promesses. Les chatbots, les algorithmes de diffusion, et autres formes d'IA prennent de plus en plus d'importance dans notre société. Toutefois, les designers graphiques doivent rester vigilants face aux dérives potentielles de ces technologies. Le designer graphique aide ses clients à communiquer efficacement, en créant des interfaces claires et cohérentes qui véhiculent les valeurs de ses clients. Son rôle est crucial pour la réussite des projets, qui souvent ont des enjeux commerciaux importants. En plus de ses compétences techniques, le designer doit évaluer l'impact social et moral de ses créations. Il doit choisir ses projets en accord avec ses valeurs et considérer les outils qu'il utilise. Mais ces valeurs et cette vision ne doivent-elles pas seulement transparaître dans le choix de ses projets mais aussi dans celui de ses outils ? Dans un contexte où le progrès technologique accroît notre confort, il est crucial d'évaluer le coût écologique et social de ces innovations. Les designers graphiques doivent non seulement répondre aux attentes de leurs clients mais aussi sensibiliser sur l'impact des technologies, y compris les IA, sur l'environnement et les droits humains. Les IA génératives d'images soulèvent des questions éthiques et environnementales. Les développeurs, les professionnels de l'image et les clients potentiels ont des attentes différentes vis-à-vis de ces technologies. Les développeurs sont principalement motivés par le progrès et la recherche, tandis que les professionnels de l'image sont plus préoccupés par l'éthique et la transparence. Quant aux clients, une majorité hésite à travailler avec des professionnels utilisant l'IA, certains acceptent sans conditions, tandis qu'une minorité refuse catégoriquement. Les témoignages des professionnels révèlent une diversité d'opinions : certains voient l'IA comme un moyen de gagner en efficacité, tandis que d'autres refusent son utilisation pour des raisons éthiques ou créatives. Les clients, eux, attendent des projets réfléchis et novateurs, et redoutent que l'IA remplace la créativité humaine. L'attention croissante des clients et des professionnels aux questions éthiques et environnementales influence l'adoption des IA dans le domaine de la création d'images. Les designers doivent donc dialoguer avec leurs clients pour encadrer l'utilisation de l'IA, tout en restant compétitifs et en respectant leurs valeurs éthiques.
Sources :
Papanek, V. Design pour un monde réel. Publié par Les presses du réel en 2022. Le meurtre à la portée de tous.

Avec l'IA, ne pas écrire un prompt précis peut conduire à des stéréotypes. Car les algorithmes se basent sur des données venant d'internet, qui sont parfois biaisées.
L'intelligence artificielle offre de nombreux outils, mais comporte des risques. Étant avant tout un algorithme, l'IA ne comprend pas les notions de racisme, sexisme ou autres discriminations. Il est donc crucial d'évaluer les risques liés à son utilisation. Par exemple, Tay, un chatbot développé par Microsoft et lancé sur Twitter en mars 2016, a dû être retiré après seulement seize heures. En une journée, il avait posté 96 000 tweets, dont une grande partie étaient racistes, misogynes ou complotistes. Cette défaillance s'explique par le fait que l'IA apprend à partir de nombreux exemples, souvent issus d'Internet, où des propos discriminatoires peuvent se trouver. Les développeurs tentent aujourd'hui de réduire ces risques en définissant des règles et en bannissant certains termes. Cependant, même sans mots extrêmes, certains comportements peuvent encore trahir des pensées racistes et misogynes, nourrissant ainsi les algorithmes. Ces biais existent également dans les algorithmes de reconnaissance d'images. Ceux-ci fonctionnent par comparaison avec des bases de données, mais cette comparaison peut produire des résultats biaisés. Un exemple célèbre sur Twitter concerne l'outil Google Vision AI, qui reconnaît les sujets sur des photos. Celui-ci avait évalué qu'une main blanche avait plus de chance de tenir un outil, tandis qu'une main noire avait plus de chance de tenir une arme. La compréhension par généralisation et association peut entraîner des situations discriminantes et stéréotypées. Les risques et biais sont similaires pour la génération d'images. Par exemple, si l'on demande à Midjourney de créer 100 images pour le prompt « A French citizen in 2023, ultra realistic photography, 4K », les résultats sont souvent stéréotypés. Sur 100 images, 72 montrent des hommes, toutes les personnes sont blanches, seules deux femmes semblent avoir plus de trente ans, et une personne sur quatre porte un béret. Ces images ne représentent pas la diversité réelle. Dans le domaine du design graphique et du processus créatif, plusieurs biais ont été identifiés, tels que la tendance de l'IA à généraliser et stéréotyper. Ces problèmes sont liés aux bases de données utilisées, qui peuvent contenir des images discriminantes. Pour éviter ces biais, il est essentiel de définir précisément ce que l'on souhaite et d'éviter les généralités. Par exemple, demander « une femme brune d'origine latine de 45 ans » est plus précis que « un citoyen français ». Il est important de maîtriser chaque aspect de l'image, surtout pour celles qui seront partagées et publiées. Face aux stéréotypes, l'utilisateur doit prendre la responsabilité du sujet représenté et ne pas faire aveuglément confiance à l'IA. L'utilisateur du prompt est responsable de l'image finale et doit être attentif et questionner la pertinence des résultats. Cette responsabilité est liée aux valeurs du designer, comme un photographe choisit son sujet ou un directeur artistique son style graphique. L'utilisateur doit utiliser l'IA pour partager sa vision et sa volonté.

Car les bases de données nécessaires au bon fonctionnement des IA sont composées grâce au travail d’opérateurs qu’on appel des micro-travailleurs.
Par le passé, de nombreuses technologies ont émergé sans que leurs impacts écologiques soient pris en compte, comme ce fut le cas avec la révolution industrielle, l’exploitation des énergies fossiles ou plus récemment, le stockage des données en ligne. Ces avancées ont certes amélioré l'espérance et le niveau de vie, mais elles ont également noirci nos perspectives d'avenir. Aujourd'hui, la société est plus vigilante et engagée vers une transition écologique. Les professionnels doivent s'interroger quant aux impacts écologiques de leurs outils, surtout lorsqu'ils sont récents. L'intelligence artificielle (IA) soulève de nombreuses questions écologiques. Le digital peut polluer via le stockage de données, le refroidissement des datacenters, ou le renouvellement des composants informatiques. L'IA générative d'image est particulièrement concernée par ces questions. La phase d'entraînement des IA est très énergivore, générant de grandes quantités de gaz à effet de serre. Par exemple, l'entraînement de ChatGPT-3 a duré près de deux mois, nécessitant un transfert massif de données (5,85 milliards d'images pour la base LAION-5B), et a produit 240 tonnes de gaz à effet de serre, soit l’équivalent de 136 allers-retours entre Paris et New York. En plus des émissions de gaz, l'entraînement et l'utilisation des IA génèrent de la chaleur, nécessitant des systèmes de refroidissement efficaces. Les centres de calculs utilisent des systèmes de refroidissement à l'eau. Microsoft a consommé 6,4 milliards de litres d'eau en 2022, soit une augmentation de 34 % par rapport à 2021, en grande partie à cause de son travail avec OpenAI. Le stockage des images générées par l'IA pose également un problème écologique. La création rapide et massive d'images augmente la quantité de données stockées, entraînant une consommation accrue d'électricité, de chaleur et de matériaux rares pour les composants informatiques. Les data centers consomment actuellement 2 % de l’électricité mondiale et fonctionnent en continu. Cependant Les IA entraînées consomment beaucoup moins d'énergie lors de leur utilisation. Des chercheurs de l'université de Californie à Irvine ont étudié l'impact des IA génératives comparé à la création traditionnelle d'images, montrant que l'IA, apporte un réel avantages en termes de gain de temps, la rendant même moins polluante qu'un utilisateur réalisant longuement une image sur son ordinateur. Enfin, bien que ces outils ne consomment pas plus d'énergie que les activités actuelles des professionnels en bureau ou à domicile, leur utilisation ajoute une nouvelle couche de consommation énergétique. Les IA offrent un gain de productivité, mais cela ne garantit pas une réduction de la consommation énergétique, car les utilisateurs pourraient augmenter leur activité plutôt que d'en profiter pour réduire leur consommation.

Car l’accessibilité de l’IA fait évoluer le rôle des designers vis-à-vis de leurs clients, les poussant à valoriser leurs compétences au-delà de leur capacité à créer une image.
L'intégration de l'intelligence artificielle dans le processus créatif des professionnels de l'image offre un gain de temps significatif pour certaines tâches, augmentant ainsi leur productivité. Si le nombre de projets disponibles pour les designers graphiques reste fixe, la capacité à travailler sur plus de projets simultanément pourrait intensifier la concurrence. Cette situation s'applique aussi bien aux designers indépendants qu'à ceux en entreprise, où un seul graphiste pourrait désormais suffire là où deux étaient nécessaires auparavant. Selon la loi de l'offre et de la demande, une demande supérieure à l'offre pourrait conduire à une baisse des prix. En outre, l'accessibilité des outils d'IA pourrait inciter certains à se passer des professionnels, tandis que d'autres métiers adjacents pourraient utiliser l'IA pour produire des visuels autrefois créés par des designers graphiques. Face à ces défis, les designers doivent miser sur leurs compétences en communication, persuasion, et compréhension des tendances pour prospérer. Malgré les évolutions, les savoir-faire des designers restent précieux. Le métier de prompt engineer, bien que lié à l'IA, ne constitue pas une suite naturelle pour les designers graphiques, car il nécessite des compétences spécifiques en développement. La concurrence entre entreprises nécessitera toujours des experts en communication pour se démarquer. La formation à l'usage de l'IA en entreprise devra être assurée par des formateurs qualifiés. De plus, certaines entreprises pourraient rechercher des consultants spécialisés en communication assistée par l'IA. Les qualités humaines et sociales des designers restent essentielles, même avec des outils performants. Un designer curieux et ouvert aux nouvelles technologies comme l'IA pourrait ainsi être avantagé par rapport à un designer réticent. Enfin, certains professionnels pourraient refuser l'usage de l'IA et valoriser un travail plus "manuel". Ces artistes pourraient se positionner comme des experts maîtrisant chaque aspect de leur métier. Ils répondraient également aux attentes d'une clientèle méfiante envers l'IA, préoccupée par les biais et les problématiques éthiques associés.

Car une utilisation intensive de l’IA pourrait étouffer les capacités créatives au fil du temps. De plus, les futures IA risquent d’être entraînées avec des images générées
Réfléchissons à l'impact des IA génératives d'images sur le métier de designer graphique. Elles influencent déjà ce domaine et entraînent des conséquences variées. L'arrivée de ces IA a généré une nouvelle tendance esthétique, souvent marquée par des textures lisses, des sujets centrés et des contrastes lumineux prononcés. Cette esthétique est devenue populaire, peut-être temporairement, en réponse à la nouveauté de ces outils. Cette adoption démontre que, malgré leurs défauts, les utilisateurs s'adaptent aux IA, prouvant une influence réciproque entre humains et machines. Cependant, cette esthétique initialement imparfaite évolue rapidement. Les développeurs améliorent sans cesse la qualité des images générées, avec des avancées fréquentes depuis 2021. Les IA fonctionnent par généralisation, ce qui peut conduire à une uniformisation des créations. Elles ont du mal à combiner des concepts inédits ou à représenter des éléments de manière très différente de leur base de données. Ainsi, sans intervention humaine, la diversité des résultats pourrait diminuer. Le Boston Consulting Group, en collaboration avec le MIT et la Harvard Business School, a mené une étude révélant que l'usage intensif des IA pourrait nuire à la créativité des utilisateurs. Bien que les résultats individuels soient bons, ils deviennent répétitifs collectivement. Environ 70 % des participants craignent que leur créativité s'éteigne avec le temps, de la même manière que certains développent une dépendance au GPS pour la navigation. Cette étude souligne que l'impact des IA dépasse l'uniformisation. Une utilisation excessive pourrait atrophier les capacités créatives des utilisateurs. Il est crucial de maintenir un équilibre et de ne pas remplacer entièrement l'imagination par l'IA pour préserver la créativité et le sens critique. Les IA doivent suivre les évolutions des tendances, nécessitant un réentraînement régulier avec de nouvelles références. L'enjeu est que ces nouvelles tendances soient le produit d'un travail encore suffisamment humain et que l'IA ne finisse pas par être alimentée avec ses propres résultats, en boucle.