Firmy związane z AI zobowiązują się chronić wizerunek dzieci w internecie

Firmy technologiczne, takie jak Google, Meta, OpenAI, Microsoft i Amazon, zobowiązały się do przeglądu swoich danych, na podstawie których trenowana jest sztuczna inteligencja, pod kątem materiałów przedstawiających seksualne wykorzystywanie dzieci i usunięcia ich z przyszłych modeli – podaje theverge.com. 

Jak czytamy, wspomniane firmy podpisały się pod nowym zbiorem zasad, który ma na celu ograniczenie rozprzestrzeniania się obrazów przedstawiających wykorzystywanie dzieci. Obiecały one upewnić się, że ich zbiory danych nie zawierają tego typu materiałów, unikać zbiorów danych o wysokim ryzyku pojawienia się takich obrazów oraz usuwać je bezpośrednio lub kasować linki do nich ze źródeł danych.  

Firmy zobowiązały się także do „testowania w warunkach skrajnych” modeli sztucznej inteligencji, aby upewnić się, że nie tworzą one żadnych obrazów przedstawiających wykorzystywanie dzieci, i do udostępniania modeli tylko wtedy, gdy zostały one sprawdzone pod kątem bezpieczeństwa najmłodszych – donosi źródło. 

Wśród innych sygnatariuszy znajdują się takie firmy jak Anthropic, Civitai, Metaphysic, Mistral AI i Stability AI. 

Według źródła, generatywna sztuczna inteligencja przyczyniła się do wzrostu obaw przed fałszowaniem obrazów, w tym m.in. rozprzestrzenianiem się podrobionych zdjęć przedstawiających wykorzystywanie dzieci w internecie. W grudniu 2023 roku pojawił się raport naukowców ze Stanford, który wskazuje, że popularny zbiór danych używany do trenowania niektórych modeli sztucznej inteligencji zawierał linki do materiałów związanych z wykorzystywaniem najmłodszych. 

Thorn, organizacja non-profit zajmująca się przeciwdziałaniem wykorzystywaniu dzieci, podkreśliła, że generowanie tego typu obrazów przez sztuczną inteligencję może m.in. utrudnić identyfikację ofiar – dowiadujemy się. (ao)