Mit Holger Krag vom Europäischen Raumflugkontrollzentrum (ESOC)
Wir nutzen den Weltraum für unser Leben auf der Erde. Auch der Ausbau der digitalen Infrastrukturen auf der Erdoberfläche hat zur Folge, dass immer mehr technische Objekte ins All befördert werden. Navigation ohne GPS ist kaum noch vorstellbar. Ebenso nutzen Telefondienste und Wetter-Apps Weltraumtechnik – und die Datenströme eines Internets der Zukunft werden wahrscheinlich nicht mehr hauptsächlich durch lange Kabel geleitet werden, sondern mittels Konstellationen tausender Satelliten, die um den Erdball herum angeordnet sind. Mittlerweile umkreisen unseren Planeten aber vor allem Reste kaputter Weltraumtechnik, die den immer dichter werdenden Verkehr wichtiger Sonden und Satelliten massiv behindern. Es handelt sich um eine unbeabsichtigte Folge der menschlichen Raumfahrt, dass Weltraumschrott die künftige Nutzung des Weltalls sogar gefährdert. Hinzu kommt das "Wetter" im All: Auch hiervon sind digitale Infrastrukturen zunehmend betroffen, die für die Sicherheit der Systeme auch auf der Erde sorgen. Wer kümmert sich um diese Probleme? Und wie kann man dafür sorgen, dass Raumfahrt die Satellitenversorgung der digitalen Gesellschaft weiterhin sicherstellen kannn? Dr. Holger Krag leitet am Europäischen Raumflugkontrollzentrum, dem ESOC, das ESA-Programm für Weltraumsicherheit, das sich auch mit Weltraumschrott und Weltraumwetter intensiv befasst. Im Digitalgespräch beschreibt der Experte die Szenerie um unseren Erdball herum und schildert, wie sich die Anforderungen an die Raumfahrt in den letzten Jahrzehnten insbesondere durch die digitale Transformation verändert haben. Er nennt Strategien im Umgang mit neuen Sicherheitsrisiken und Regelungsbedarfe, beschreibt technische Lösungen und offene Forschungsfragen. Mit den Gastgeberinnen Petra Gehring und Marlene Görger diskutiert Krag, ob die weltpolitische Lage auch die Weltraumsicherheit gefährdet, welchen Einfluss private Akteure auf die Entwicklung der Raumfahrt haben und was auf dem Spiel steht, wenn die aktuellen Probleme nicht gelöst werden können. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-054-holger-krag/ Link zur Webseite der Europäischen Weltraumorganisation ESA mit Berichten und Hintergründen zu Weltraumschrott: https://www.esa.int/Space_Safety/Space_Debris Link zur Webseite der Europäischen Weltraumorganisation ESA mit Berichten und Hintergründen zu Weltraumwetter: https://www.esa.int/Space_Safety/Space_weather
Erschienen: 13.08.2024
Dauer: 00:36:56
Weitere Informationen zur Episode "Infrastrukturen im Weltraum für die Digitalität auf der Erde"
Mit Christian Stöcker von der Hochschule für Angewandte Wissenschaften Hamburg
Der Medienwandel ist längst vollzogen. Damit hat sich in Sachen „News“ eine komplizierte Gemengelage entwickelt: Das Internet ist zu einem Marktplatz der Aufmerksamkeit geworden, und prinzipiell kann jede und jeder über soziale Medien, Webseiten oder Chatkanäle „Content“ verbreiten. Quellen für Nachrichten und Informationen über das öffentliche Leben sind also längst nicht mehr beschränkt auf Zeitungsredaktionen und Rundfunkanstalten, die seriös journalistisch arbeiten – im Gegenteil werden solche etablierten Medien zunehmend von alternativen Anbietern verdrängt. Diese verfolgen teilweise mehr oder weniger offen wirtschaftliche oder politische Interessen, die mit der Einhaltung journalistischer Standards unvereinbar sind, und in der Vielzahl der Stimmen im Netz verbreiten etliche gezielt falsche oder irreführende Meldungen. Derlei Desinformation ist ein Problem für den demokratischen Diskurs, führt zu Verunsicherung und Spaltung und hat direkte Auswirkungen in der Realität, die mitunter schwer oder gar nicht mehr einzufangen sind. Solche Effekte sind von den Institutionen, die Desinformation verbreiten, beabsichtigt und bereits in der Breite sichtbar, sie werden durch automatisierte Prozesse, Algorithmen und generative KI verstärkt. Wie können wir als Gesellschaft auf diese Entwicklung reagieren, und welche Rolle hat der Journalismus und haben Medienschaffende dabei? Christian Stöcker ist Journalist, Autor und Professor für Digitale Kommunikation an der Hochschule für Angewandte Wissenschaften Hamburg, wo er den Master-Studiengang „Digitale Kommunikation“ leitet. Zuvor verantwortete er bei SPIEGEL ONLINE das Ressort Netzwelt. Der Experte für digitale Medien und ihre gesellschaftlichen Auswirkungen erklärt im Digitalgespräch die Transformation der Medienlandschaft, die wir in den letzten Jahrzehnten vollzogen haben, gibt Einblicke in Funktionsweisen und Hintergründe zentraler Online-Plattformen und zeigt Verknüpfungen mit aktuellen politischen und sozialen Entwicklungen auf. Er beschreibt, welche Auswirkungen das Vorhandensein von Desinformation auf das Berufsbild des Journalismus hat und wie junge Medienschaffende darauf vorbereitet werden. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Stöcker das Szenario, das uns erwartet, wenn die Desinformations-Strategien weiterhin erfolgreich sind, welche Maßnahmen dagegen ergriffen werden könnten – und welchen Regeln sich alle unterwerfen sollten, die die Möglichkeiten eines demokratischen Diskurses erhalten und die Schäden eindämmen wollen. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-053-christian-stoecker Link zur im Gespräch erwähnten Studie von Soroush Vosoughi et. al von 2016 zur Verbreitung von Desinformation in Online-Medien: https://www.science.org/doi/10.1126/science.aap9559 Link zur im Gespräch erwähnten Initiative „Klickwinkel“: https://klickwinkel.de/ Link zur im Gespräch erwähnten Initiative „Use the News“: https://www.usethenews.de/de
Erschienen: 18.06.2024
Dauer: 00:55:01
Mit Nina George vom European Writers' Council
In den Trainingsdaten für Systeme generativer KI finden sich Abermillionen urheberrechtlich geschützter Werke. Die Inhaber:innen der Rechte an diesem Material sind weder gefragt worden, ob sie dieser Form der Verwertung zustimmen, noch wurden sie dafür bezahlt. Dass Texte, Bilder und Musikstücke im Internet öffentlich verfügbar sind, feiern viele als Errungenschaft für freie Bildung und Teilhabe am kulturellen Reichtum der Menschheit. An profitorientierte Firmen, die auf dieser Basis große Sprachmodelle entwickeln, hat man dabei freilich nicht gedacht. Nun drohen KI-Systeme, die ihre Ergebnisse auf Grundlage gratis abgesammelter Inhalte produzieren, genau die Kreativen zu ersetzen, deren Kreativprodukte sie nutzen. Verlage und Verwertungsgesellschaften sind unter Druck. Sie versuchen, Regeln für den Umgang mit KI im professionellen Arbeitsprozess zu entwickeln und die Rechte der von ihnen vertretenen Kulturschaffenden zu schützen – vor allem gegenüber außereuropäischen Konzernen, die die technische Entwicklung dominieren. Welche Rechte können Autor:innen, deren Werke bereits in den Trainingsdaten von GPT und Co. auftauchen, in dieser komplexen Lage überhaupt noch einfordern? Wie hoch ist der Preis für KI, wenn das Urheberrecht in diesem Bereich nicht zählt? Wie lässt sich menschliche Kreativarbeit zukünftig vor der Verwertung durch IT-Konzerne schützen? Nina George ist Schriftstellerin, Übersetzerin und Moderatorin. Seit vielen Jahren setzt sie sich in politischen Prozessen aktiv für die Rechte von Künstler:innen und Kulturschaffenden ein, etwa als Präsidentin des European Writers‘ Council. Im Digitalgespräch schildert die Expertin Herausforderungen, mit denen sich Kreative und Schreibende durch die Entwicklung generativer KI konfrontiert sehen und welche Player dabei zentral sind. Sie beschreibt, welche Interessen unterschiedliche Akteure in aktuellen Aushandlungsprozessen verfolgen, macht Vorwürfe und Forderungen gegen Politik und KI-Entwickler klar und zeigt mögliche Zukunftsszenarien auf. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert George, ob ein vernünftiger Umgang mit generativer KI in der Kreativwirtschaft denkbar ist, und welche Lebenswirklichkeiten der Streit um den Wert menschlicher Urheberschaft und Kulturleistung betrifft. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-052-nina-george Zur Webseite des European Writers‘ Council: https://europeanwriterscouncil.eu/ Zur Webseite des Netzwerks Autorenrechte http://www.netzwerk-autorenrechte.de/
Erschienen: 28.05.2024
Dauer: 00:53:05
Mit Jenifer Becker von der Universität Hildesheim
Dass große Sprachmodelle Text generieren können, ist bekannt. Seit der Veröffentlichung von ChatGPT im November 2022 haben praktisch alle Menschen mit Internetzugang die Möglichkeit, Texte maschinell erzeugen zu lassen. Davon wird rege Gebrauch gemacht, um menschliche Schreibarbeit zu ersetzen, was sich ebenfalls bemerkbar macht und die Öffentlichkeit breit diskutiert. Dabei stehen besorgniserregende Entwicklungen im Fokus, etwa negative Auswirkungen auf Menschen, die vom Schreiben leben nun die ihre berufliche Rolle bedroht sehen. Auch entstehen Schwierigkeiten im Bildungsbetrieb, wenn Schüler:innen oder Studierende unliebsame Übungsaufgaben von Maschinen erledigen lassen, und automatisch generierte Desinformation ist ein massives Problem für demokratische Gesellschaften. Weitaus weniger Aufmerksamkeit erhält die Frage, wie KI von Menschen produktiv und kreativ für Schreibprozesse eingesetzt werden kann, wenn das Schreiben als solches nicht delegiert wird, sondern transformiert als menschliche Ausdrucksform erhalten bleibt: Schriftsteller:innen, die offen und experimentierfreudig mit KI-Tools umgehen, entwickeln neue Schreibpraktiken, die klug geplant und angewandt das eigene Schaffen beflügeln können und interessante Arbeiten hervorbringen. Aber: nicht alle Literaturformen eignen sich gleichermaßen für den Einsatz von KI. Und: Leser:innen müssen sich nicht nur fragen, ob und warum es ihnen wichtig ist, ob KI beim Schreiben benutzt wurde und woran sie erkennen, welche Texte von Menschen verfasst und welche KI-generiert sind, sondern auch, wie sie gute „KI-Literatur“ von schlechter unterscheiden. Jenifer Becker ist Literatur- und Kulturwissenschaftlerin an der Universität Hildesheim, dort forscht und lehrt sie unter anderem zu digitaler Literatur und dem Einsatz von KI im Schreibprozess. Als Autorin und Künstlerin arbeitet und experimentiert sie auch selbst mit neuronalen Netzen und Sprachmodellen. Im Digitalgespräch erklärt die Expertin, wie KI-Tools den Schreibprozess unterstützen und wie sich je nach Einsatzweise die schriftstellerische Aufgabe verändert. Sie beschreibt die literarische Landschaft, in der KI-Produkte schon heute einen festen Platz haben und welche kritischen Stimmen es angesichts dieser Entwicklungen gibt, macht deutlich, worin die Eigenheiten KI-produzierter Literatur bestehen und gibt Hinweise, wie man sie erkennt. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Becker, welche Vorbehalte gegenüber dem Einsatz von KI im Schreibprozess vielleicht unbegründet sind und welche Aspekte tatsächlich problematisch sein können, was junge Schriftsteller:innen bei der Arbeit mit KI beachten sollten und wie die Zukunft der Literaturproduktion und -rezeption aussehen könnte, wenn sich KI als Schreib-Gerät normalisiert hat. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-051-jenifer-becker Link zu „Alpha Centauri in Ewigkeit“, einem Textprojekt, an dem Jenifer Becker im Kollektiv mit ChatGPT, Juan S. Guse, Albert Heinrichs gearbeitet hat: https://www.fischerverlage.de/magazin/neue-rundschau/alpha-centauri-ewigkeit Link zu einem Artikel von Jenifer Becker, der einen Überblick übr die Nutzung von KI in der Literatur gibt: https://blog.degruyter.com/ai-literature-will-chatgpt-be-the-author-of-your-next-favourite-novel/
Erschienen: 07.05.2024
Dauer: 00:58:46
Weitere Informationen zur Episode "Kreatives Schreiben mit KI"
Mit Petra Gehring und Marlene Görger
Am 26. Mai 2021 ist das erste Digitalgespräch ausgestrahlt worden. Drei Jahre und 50 Folgen später hat sich der Podcast als Raum eines offenen und wissenschaftlich informierten Diskurses zu Themen der „Digitalität” etabliert. Anlässlich des kleinen Jubiläums möchten wir kurz innehalten und reflektieren – und deshalb haben die beiden Gastgeberinnen des Digitalgespräches, Petra Gehring und Marlene Görger, für diese Folge die Seiten gewechselt und geben Auskunft. Das Digitalgespräch ist mit dem Programm angetreten, Scheinwerfer auf komplexe Handlungsfelder zu werfen, so „dass sich der Nebel großer Schlagworte lichtet”. Die Methode: Im Gespräch mit Expertinnen und Experten spezifisches Wissen aus verschiedenen Arbeitsgebieten und Forschungsperspektiven sammeln und langsam die Teile zusammenfügen. So kamen unterschiedlichste Facetten des Digitalen auf die Tagesordnung: Smart Contracts, digitale Forensik, Restauration digitaler Kunstwerke, der Umgang mit sensiblen Forschungsdaten oder das Trauern und Sterben im digitalen Zeitalter. Deutet sich – angesichts des komplexen und uneinsehbaren Themenfelds des „Digitalen” – bereits ein Bild an, ein Zusammenhang, eine kohärente Erkenntnis? Oder wächst die Zahl der Teile ungleich schneller, als dass man sie zusammensetzen könnte? In der Bonusfolge kommen die Macherinnen im kleinen Darmstädter Aufnahmestudio mit den beiden ZEVEDI-Wissenschaftsredakteuren Eneia Dragomir und Konstantin Schönfelder ins Gespräch. Wo hat sich nach 50 Folgen Digitalgespräch der Nebel gelichtet und wo war von Dingen zu hören, die vielleicht erst in Zukunft ins Sichtfeld einer breiteren Öffentlichkeit gelangen? Was ist gut gelaufen, was weniger gut und wo darf es in den nächsten 50 Folgen hingehen? Marlene Görger ist studierte Physikerin und Technikphilosophin, seit 2020 arbeitet sie am Zentrum verantwortungsbewusste Digitalisierung. Petra Gehring ist Professorin für Philosophie an der Technischen Universität Darmstadt sowie wissenschaftliche Direktorin des Zentrums. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-bonusfolge-seitenwechsel
Erschienen: 24.04.2024
Dauer: 00:36:28
Mit Malte Gruber von der Justus-Liebig-Universität Gießen
Der Ausdruck „Digitaler Zwilling“ stammt aus dem Engineering. Dort beschreibt er digitale Modelle, mit denen in der sogenannten „Industrie 4.0“ reale technische Anlagen oder Prozesse abgebildet, optimiert und simuliert werden. Solche Modelle sind heute weit verbreitet. Noch nicht realisiert ist die Vorstellung, über technische Systeme hinaus könnten auch einzelne Menschen oder Gruppen solche virtuellen Repräsentationen haben, aus der man ihre „Systemzustände“ ablesen kann. Optimieren könnte man an einem solchen ganzheitlichen Modell z. B. den Gesamtzustand „Gesundheit“. Benötigt würden für einen Körper-Zwilling, der vielleicht auch „Verhalten“ mit umfasst, sehr viele Daten und komplexe Software. Entsprechende Ideen gibt es freilich, und einige der Visionen gehen so weit, das digitale Abbild einer ganzen Person mit Körperdaten und auch mentalen Eigenschaften zu imaginieren. Dabei ist die Hoffnung, man könne so die Entwicklung des Gesundheitszustandes vorausschauend steuern oder bei Krankheit individuelle Behandlungskonzepte planen. Ein „Digitaler Zwilling“ würde auch Verhaltensratschläge für optimale Körperfunktionen und Leistungsfähigkeit geben können. Er würde sein menschliches Gegenstück potentiell ein Leben lang begleiten, vermessen und durch seinen Einfluss auch: formen. In der Fachwelt galten solche Ideen bisher als Gedankenspiele. Aber: Die EU plant für die medizinische Versorgung ihrer Bürger:innen nun tatsächlich „European Virtual Human Twins“ einzuführen – jedenfalls wird gesetzlich der Weg hierfür freigemacht. Wie verträgt sich eine solche Vision mit unserem aktuellen Datenschutz? Und was folgt daraus für ein sozial gerechtes und demokratisches Gesundheitssystem, wenn es weiterhin unterschiedliche Lebensentwürfe und Wertvorstellungen respektieren soll? Malte Gruber ist Professor für Bürgerliches Recht und Rechtsphilosophie an der Justus-Liebig-Universität Gießen und befasst sich in seiner Arbeit unter anderem mit Informationsrecht und Recht der digitalen Ökonomie, außerdem mit Technikrecht und Recht der Lebenswissenschaften. Im Digitalgespräch beschreibt der Experte, welche Konzepte von „Digitalen Zwillingen“ in aktuellen Debatten und Entwicklungen eine Rolle spielen, was die Initiative der EU-Kommission motiviert und welche rechtlichen und gesellschaftlichen Fragen sich stellen, wenn entsprechende Visionen realisiert werden sollen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Gruber, wie zwischen Hype und Dystopie realistische Szenarien aussehen könnten, welche Aspekte in der aktuellen Diskussion noch wenig Beachtung finden und was die Vision vom zukünftigen Medizinprodukt „Digitaler Zwilling“ über unser gegenwärtiges Verhältnis zu unseren Körpern verrät. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-050-malte-gruber Link zur Ankündigung der "European Virtual Human Twins Initiative" der EU Kommission: https://digital-strategy.ec.europa.eu/en/policies/virtual-human-twins
Erschienen: 16.04.2024
Dauer: 00:52:15
Mit Christian Voß von der Forschungsstelle Künstliche Intelligenz (FSKI) am Finanzamt Kassel
Mit Methoden „Künstlicher Intelligenz“ ist es heute möglich, große und größte Ansammlungen von Dateien ganz unterschiedlicher Formate zu vergleichen, zu systematisieren und auszuwerten. Ein Meilenstein auch für Ermittlungsbehörden: IT-Expert:innen können aus Datensätzen, die ohne technische Hilfsmittel für Fahnder:innen unmöglich zu sichten und auszuwerten wären, relevante Informationen herausfiltern und Zusammenhänge herstellen. Ein berühmtes Beispiel für einen solchen gigantischen Datensatz und seine erfolgreiche Bewältigung sind die sogenannten Panama Papers: Ein Datenleck und also eine „Steuer-CD“, die im Jahr 2016 etwa 11,5 Millionen Dokumente oder 2,6 Terabyte Daten enthielt, und weltweit Fälle von Steuerbetrug und Geldwäsche dokumentierte. Inzwischen sind etliche weitere solcher Leaks dazugekommen, etwa 2021 die nochmals umfangreicheren Pandora-Papers. Für Steuerfahndung und Finanzaufsichtsbehörden bedeutete das, aus Millionen von Emails, Datenbanken, PDFs, Bildern und sonstigen Dateien diejenigen identifizieren zu müssen, die für die eigene Zuständigkeit relevant waren. KI hat die Verfolgung der in den Daten aufgedeckten Straftaten letztlich wohl überhaupt erst möglich gemacht, wobei sich die zugrundeliegenden Technologien seitdem sprunghaft weiterentwickeln. KI ist also ein mächtiges Instrument auch staatlichen Handelns, mit dem die Nadel im Heuhaufen leicht gefunden werden kann. In einem Rechtsstaat ist es umso mehr von entscheidender Bedeutung, für welche Zwecke der KI-Einsatz zum Zuge kommen darf. Christian Voß ist Bereichsleiter der Forschungsstelle Künstliche Intelligenz (FSKI), die 2019 am Finanzamt Kassel eingerichtet wurde. Im Digitalgespräch erklärt der Informatiker und KI-Experte, wie diese Einrichtung zustande kam, welche Aufgaben sie hat und wie KI die Steuerfahndung unterstützt. Er beschreibt, welche Maßnahmen zur Auswertung von Leaks wie den Panama Papers nötig sind, wie Software-Lösungen für spezifische Problemstellungen entstehen, welches Wissen Fachkräfte brauchen und wie sein interdisziplinäres Team mit anderen Behörden und auch der Universität zusammenarbeitet. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Voß das Spannungsfeld zwischen Datenschutz und Strafverfolgung, den Mehrwert, den hier Open-Source-Lösungen bringen, und ob nicht nur die Kriminalität, sondern auch der Rechtsstaat durch den technischen Fortschritt im IT-Sektor herausgefordert ist.
Erschienen: 26.03.2024
Dauer: 00:44:27
Mit Domenik Wendt von der Frankfurt University of Applied Sciences
Mit ihrem AI Act hat die EU hat den ersten umfassenden regulatorischen Rahmen für Systeme „Künstlicher Intelligenz“ auf den Weg gebracht. Ein ehrgeiziges, herausforderndes und drängendes Vorhaben: Die rasante, technische Entwicklung findet global statt, vor allem außerhalb von Europa. KI wird bereits in allen Lebensbereichen eingesetzt, mit unbestreitbaren ökonomischen Vorteilen, aber auch offensichtlichen Risiken für die liberale Demokratie und ihre Werte. Welche Technologien als „Künstliche Intelligenz“ gelten, ist dabei nicht klar umrissen. Vielmehr versammeln sich unter dem unscharfen Buzzword alle möglichen IT- und Robotik-Systeme, deren Leistung über die herkömmlicher Automatisierung hinausgeht. Ein Gesetzesrahmen, wie er jetzt in Europa gelten soll, muss klug angelegt und flexibel sein, um dieser komplexen Lage gerecht zu werden. Ist das mit dem großen Wurf der europäischen KI-Verordnung gelungen? Domenik Wendt ist Professor für Bürgerliches Recht, Europäisches Wirtschaftsrecht und Europarecht an der Frankfurt University of Applied Sciences und Experte für Recht der KI. Die Entstehung des AI Acts hat er von Anfang an eng verfolgt und dabei sowohl eine wissenschaftliche als auch eine praxisorientierte Perspektive eingenommen. Im Digitalgespräch beschreibt er den Prozess, den die Verordnung durchlaufen hat: Vom Kontext ihrer Entstehung und der zugrundeliegenden Idee und Zielsetzung über die heißen Diskussionen zwischen den beteiligten Akteuren mit ihren verschiedenen Interessen und politischen Grundhaltungen bis hin zu den Inhalten des finalen Entwurfs, der nun verabschiedet werden soll. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Wendt, wie der AI Act international aufgefasst und bewertet wird, ob Kritiker:innen zurecht Schwachstellen sehen, und welche Arbeit nun auf Unternehmen, Jurist:innen und Wissenschaftler:innen zukommt, um diesen abstrakten Rechtsrahmen auch in die Wirklichkeit umzusetzen. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-048-domenik-wendt Weitere Informationen: Zur Pressemitteilung „Rahmen für Künstliche Intelligenz in der EU steht: KI-Verordnung einstimmig gebilligt“ des Bundesministeriums für Justiz vom 2. Februar 2024: https://www.bmj.de/SharedDocs/Pressemitteilungen/DE/2024/0202_KI-VO.html?cms_mtm_campaign=linksFromNewsletter Webseite des Research Lab for Law and applied Technologies: https://www.frankfurt-university.de/de/hochschule/fachbereich-3-wirtschaft-und-recht/forschung-und-transfer/forschungslabore/rellate/
Erschienen: 05.03.2024
Dauer: 00:44:53
Weitere Informationen zur Episode "Der AI Act der EU: Wie er zustande kam und wie er KI reguliert"
Mit Carsten Gerner-Beuerle vom University College London
Risiken, die vom KI-Einsatz ausgehen, werden breit diskutiert. Beispiele reichen von möglichen Fehldiagnosen in der medizinischen Behandlung über Diskriminierung bei der Jobsuche bis hin zu Gefahren für demokratische Systeme oder Verletzung der Menschenwürde. Vor allem existenzielle Bedrohungen, die insbesondere von generativer KI ausgehen sollen und die ihre Hersteller selbst nicht müde werden, zu betonen, sorgen für hitzige Debatten. KI-Systeme entstehen und agieren aber nicht von selbst: An ihrer Entwicklung, ihrer Verbreitung und ihrem Einsatz sind zumindest im Moment immer Menschen beteiligt, und Menschen tragen nach wie vor Verantwortung dafür, wie die Systeme aufgebaut sind, was sie tun und was mit den Ergebnissen geschieht. Aber haften sie auch, wenn Fehler passieren? Wer verantwortlich gemacht wird, wenn durch ein KI-System ein konkreter Schaden entsteht, ist nicht leicht zu entscheiden und unsere Rechtslage hat auf diese Frage noch keine klaren Antworten. Das soll sich bald ändern: Die EU ist gerade dabei, mit dem AI Act eine Produkthaftung für KI zu etablieren. Was sind Punkte, mit denen sich Anwält:innen und Gesetzgeber:innen bei Haftungsfragen des KI-Einsatzes auseinandersetzen müssen? Und wie gut knüpft entstehendes KI-Recht an unsere bestehende Rechtsauffassung an? Carsten Gerner-Beuerle ist Professor of Commercial Law am University College London. Der Rechts- und Wirtschaftswissenschaftler ist Experte für internationales Gesellschafts-, Privat- und Kapitalmarktrecht und hat Regulierungsvorhaben der EU Kommission und des EU Parlaments unterstützt. Im Digitalgespräch schildert er die unklare Haftungslage, in der KI zum Einsatz kommt und wie sie sich auf die Praxis auswirkt, erklärt die rechtlichen Hintergründe für diese komplexe Situation, beschreibt, wie unterschiedliche Rechtssysteme mit Risiken durch KI-Einsatz umgehen und zeigt die Strategie auf, die die EU mit dem AI Act verfolgt. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Gerner-Beuerle, worin die Eigenschaften von KI bestehen, die sie von „gewöhnlichen“ Produkten unterscheiden, worin typische Risiken beim Einsatz von KI-Systemen bestehen und wie weit das Konzept der Haftung auch als Instrument der Regulierung funktionieren könnte. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-047-carsten-gerner-beuerle
Erschienen: 13.02.2024
Dauer: 00:51:21
Mit Oliver Bäcker von EintrachtTech
Das sogenannte „Internet der Dinge“ sorgt dafür, dass in unserer Umgebung digitale Prozesse wie von selbst ablaufen. Vernetzte Geräte lösen reale Ereignisse aus, sammeln ganz unterschiedliche Daten, und kombiniert mit Sensoren, Mikrofon- und Kameratechnik stellen Sie Informationen in ungeahnter Menge bereit. Diese Vernetzung kann unsere Arbeit erleichtern, in jedem Fall verändern und auch ganz neue alltägliche Aufgaben entstehen lassen, schafft neue Möglichkeiten, stellt dabei aber auch eigene Bedingungen für unser Leben her: Sie transformiert Arbeitsplätze und Freizeitangebote, verändert unsere Mobilität, wie wir kommunizieren und – mal mehr, mal weniger subtil – worauf wir unsere Aufmerksamkeit richten. Hier Neuerungen tatsächlich umzusetzen ist eine spannende und komplexe Aufgabe für die Praxis. Welche Möglichkeiten haben wir, Dinge auszuprobieren und auszuhandeln, und dabei gleichzeitig „echte“, einsatzreife Technologien zum Einsatz zu bringen? Das Stadion des Fußballvereins Eintracht Frankfurt soll seit einiger Zeit für das Rhein-Main-Gebiet als ein solches Experimentierfeld dienen. Eine große Sportstätte und das Management von Fußballereignissen als Labor der Digitalisierung – mit Respekt vor den Traditionen und Werten des Vereins und den Ansprüchen seiner Mitglieder und Fans. Wie das gelingen soll und welche Ideen, Projekte und Ziele dahinterstehen, ist Thema dieses Digitalgesprächs. Dr. Oliver Bäcker leitet das Digitalzentrum „Arena of IoT“ bei der EintrachtTech, der Digitaltochter des Fußballvereins Eintracht Frankfurt. Im Digitalgespräch gibt der Experte für Innovations- und Technologiemanagement Einblicke in konkrete Projekte und Entwicklungen, die im Stadion und darum herum entstehen. Bäcker beschreibt, welche Hintergründe der besondere Digital-Schwerpunkt der Eintracht hat, wie Werte und Interessen des Vereins in die Ausgestaltung konkreter Innovationen einfließen und wie Mitglieder und Fans dabei einbezogen werden. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Bäcker, welche Projekte besonders viel Aufmerksamkeit von Politik und Öffentlichkeit erfahren, ob die sportliche Konkurrenz zwischen Fußballclubs sich auch auf digitale Innovationen ausweitet – und welche Bedeutung das Analoge weiterhin hat und auch behält. Link zur Webseite des Digitalzentrums Arena of IoT der EintrachtTech: https://klub.eintracht.de/eintrachttech/digitalzentrum-arena-of-iot
Erschienen: 23.01.2024
Dauer: 00:42:26
Weitere Informationen zur Episode "Arena of IoT: ein Fußballstadion als digitales Reallabor"
