Replikation der menschlichen Stimme:
Die Daily Mail hat über eine neue Software von Microsoft berichtet, welche angeblich in der Lage sei, die menschliche Stimme perfekt nachzumachen. Die KI müsse sich nur drei Sekunden einer Tonaufnahme anhören. Anschließend zerlegt sie die Klänge in Komponenten und verwendet dann diese Daten, um das Original-Sample zu replizieren.
Wenn die Software mit dem Namen VALL-E in falsche Hände gerät, könne ein Telefonbetrüger sie verwenden, um die Stimme eines Menschen zu erfassen und zu replizieren. Ein Sample von nur 3 Sekunden würde dafür ausreichen. Das Replikat beinhalte auch die emotionale Verfassung und akustische Umgebung. Besonders problematisch wäre es, wenn solch eine Software in die Hände von Geheimdiensten fällt. Im Zusammenhang mit sogenannten „Deepfake“-Programmen, welche die Gesichter und Mimik von Menschen mithilfe einer künstlichen Intelligenz abändern und verfälschen können, wäre es mögliche unterschiedlichste „Videobeweise“ zu fälschen.
Missbrauch der Software:
Microsoft hat sich bereits damit beschäftigt, dass seine bisher unveröffentlichte Software missbraucht werden könnte: „Wenn das Modell jedoch auf unsichtbare Sprecher verallgemeinert wird, sollten relevante Komponenten von Sprachbearbeitungsmodellen begleitet werden, einschließlich des Protokolls, um sicherzustellen, dass der Sprecher der Ausführung der Änderung zustimmt, und des Systems zur Erkennung der bearbeiteten Sprache“, zitierte Daily Mail den US-Konzern. VALL-E könne zwar nur geschriebenen Text in Sprache umwandeln, aber dies reiche aus, damit jemand die Technologie verwenden könne, um die Stimme eines Menschen zu stehlen und ihm gefälschte „Worte in den Mund zu legen“.
Die europäischen Regulierungsbehörden kamen zu dem Entschluss, dass der Tech-Moloch durch die Einbettung der Zustimmung in die Nutzungsbedingungen und die Tatsache, dass die Nutzer gezwungen wurden, sie zu akzeptieren, wenn sie auf Facebook-Plattformen zugreifen wollten, gegen die europäische Datenschutz-Grundverordnung (DSGVO) verstieß.