Risiken und Chancen: Junge Akademie führt die KI-Debatte

Sie erforschen das Gehirn, verantwortungsvolle Unternehmensführung und englische Literatur. Sie verbinden Energieforschung mit Sozialwissenschaft, betreiben Wissenschaftsjournalismus und entwickeln in einem biotechnologischen Start-up Methoden, um Biomarker von Erkrankungen leichter nachzuweisen: Die sechs neuen Mitglieder der Jungen Akademie Schweiz – Adina Arth, Rodrigo Gacel Arzate Mejia, Vanja Djinlev, Anne Lüscher, Simone Pengue und Emily Louisa Smith – kommen aus verschiedenen Disziplinen und arbeiten in unterschiedlichen Bereichen.

Für Yves Flückiger, Präsident der Akademien der Wissenschaften Schweiz, ist das entscheidend: «Interdisziplinarität ist bei den grossen Herausforderungen unserer Zeit wichtiger denn je», sagte er in seinem Grusswort. Die Neugewählten hatten sich zuvor in einem Bewerbungsverfahren durchgesetzt. Bei der Feier stellten sie sich kurz vor und erhielten ihre Aufnahmeurkunden, überreicht von Marianne Bonvin Cuddapah, Geschäftsführerin der Akademien der Wissenschaften Schweiz, und Karin Spycher, Leiterin der Jungen Akademie Schweiz. Die Junge Akademie – das Netzwerk für Forschende am Beginn ihrer wissenschaftlichen Laufbahn – zählt nun 29 Mitglieder. Die sechs Neuen wirken in den nächsten fünf Jahren mit.

«Utopie oder Dystopie?»

Kaum aufgenommen, erwartete sie und die insgesamt rund 30 Teilnehmenden der Veranstaltung ein Riesenthema: künstliche Intelligenz. Laut einem Voting nutzen die meisten Anwesenden KI mehrmals pro Woche – vor allem für Übersetzungen, Brainstorming und Datenkodierung. Weil ihre Mitglieder als Forschende und Lehrende doppelt mit KI zu tun haben, veröffentlichte die Junge Akademie Schweiz im Dezember 2025 eine kritische Reflexion. Die Broschüre «Impact of AI on Early Career Researchers: Challenges, Opportunities and Responsibilities» fasst die wichtigsten Aspekte zusammen, von der alltäglichen Praxis bis zu Umweltfragen. Dies soll eine «informierte Diskussion» ermöglichen.

Wo hilft KI wirklich? Verlernen Forschende das kritische Denken? Geht Diversität verloren, wenn bei der Peer-Review-Begutachtung KI zum Einsatz kommt – oder korrigiert die KI Eigeninteressen der Fachkolleginnen und -kollegen? Was ist mit Transparenz, Abhängigkeiten und Regulierung? Die Teilnehmenden diskutierten diese Fragen in Tischrunden und einem Podiumsgespräch mit drei Expertinnen und Experten. Die Antworten blieben vorsichtig, besonders zu den langfristigen Folgen der KI-Nutzung. Ein Teilnehmer brachte es auf den Punkt: «Steuern wir beim derzeitigen Tempo auf eine Utopie oder eine Dystopie zu?» 

Mehr Tempo, mehr Qualität?

KI steigert die Effizienz bei Literaturrecherchen, Datenanalysen und wissenschaftlichem Schreiben – darin waren sich die Teilnehmenden einig. Ob sie auch die Qualität der Forschung verbessert, «hängt vom Fachgebiet ab», erklärte Emmanuel Senft, Leiter der Gruppe für menschenzentrierte Robotik und KI am Forschungsinstitut Idiap in Martigny und – als Mitglied der Jungen Akademie – Hauptautor des erwähnten Booklets. Er nannte die Proteinforschung als Beispiel: Mit KI können Forschende die Struktur einer viel grösseren Zahl von Proteinen viel schneller vorhersagen. Das erleichtert das Verständnis und bringt etwa die Medikamentenentwicklung voran.

Sarah Dégallier Rochat, Leiterin des Bereichs Humane Digitale Transformation an der Berner Fachhochschule, schilderte ein Beispiel aus dem kreativen Prozess: Forschende lassen die KI in die Gutachter-Rolle schlüpfen und erhalten in kürzester Zeit Feedback zu Stärken und Schwächen eines Manuskripts. Das Ergebnis müsse natürlich kritisch geprüft werden, betonte sie. Einiges werde relevant sein, anderes nutzlos: «Der Vorgang ist aber ähnlich, wie wenn eine Kollegin, ein Kollege die Arbeit liest – nur effizienter.»

Weitere Vorteile sahen die Mitglieder der Jungen Akademie in qualitativ hochstehenden Übersetzungstools, die Inhalte für mehr Forschende und Studierende zugänglich machen. Das fördert eine breite Beteiligung. In der Wissenschaftskommunikation kann KI helfen, komplexe Ergebnisse verständlich aufzubereiten. Das stärkt die Verbindung zwischen Wissenschaft und Gesellschaft.

«Black Box» — Alptraum der Wissenschaft

Doch die Diskussion zeigte auch: Die Vorteile der KI haben riskante Kehrseiten. Einige grosse, bekannte KI-Systeme gleichen einer «Black Box», deren Weg zu den Ergebnissen sich nicht nachvollziehen lässt – ein Problem für die Wissenschaft. Oft bleibt unklar, mit welchen Daten die Modelle trainiert wurden. Verzerrungen sind möglich. Forschende sollten deshalb Open-Source-Modelle bevorzugen. Dass die Wissensproduktion zunehmend von KI-Tools abhängt, birgt ebenfalls Risiken, besonders, wenn sie privaten Technologie-Konzernen gehören.

Die grossen Gelder für KI-Forschung fliessen heute in den privaten Sektor. Öffentlich finanzierte Forschung kann sich abheben, indem sie transparente, nachhaltigere Modelle entwickelt, hiess es auf dem Podium. Zwar in kleinerem Rahmen, dafür mit verlässlichen Daten und optimierten Algorithmen. Globale Zusammenarbeit sei dabei entscheidend, betonte Manuel Kugler, Programmleiter Data & AI bei der Schweizerischen Akademie der Technischen Wissenschaften (SATW). Emmanuel Senft schlug vor, dass sich die öffentliche Forschung stärker auf die gesellschaftlichen Auswirkungen der KI konzentrieren könnte.

Die KI und der Produktionsdruck

Kritisch sahen die Anwesenden den wohl steigenden Produktionsdruck: mehr KI, mehr Effizienz, mehr Publikationen und Förderanträge. «Dies überflutet das System und erhöht nochmals den Aufwand im Forschungszyklus», sagte Manuel Kugler. Wer beim Output nicht mithält, gerät ins Hintertreffen – doch mehr Masse bedeutet nicht automatisch mehr Qualität. Im Gegenteil: «Man kann KI auch nutzen, um schneller mehr Unsinn zu produzieren.» Das Forschungssystem müsse diese Problematik angehen.

Sarah Dégallier Rochat forderte, die Regeln zur Bewertung wissenschaftlicher Leistungen zu überdenken. Der KI-Effekt verstärke ein System, das sich ohnehin an Quantität orientiere, und in dem Publikationszahlen und Zitierungen zählen. Internationale Initiativen wie DORA und CoARA seien daher umso wichtiger: Sie wollen weg von Metriken, hin zu mehr qualitativer Beurteilung. Auch aus den Tischrunden kam der Appell, Forschungsqualität neu zu definieren und unbedingt Raum für langsamere, reflektierende Forschung zu bewahren.

Keine falsche Ehrfurcht

Zum Abschluss des Podiums stellte Moderatorin Astrid Tomczak-Plewka die Kernfrage: «Was tun Forschende, wenn KI ihnen das Denken – ihre Hauptaufgabe – abnimmt?» Da kamen die Antworten aus der Expertenrunde ohne zu zögern. «KI denkt nicht», betonte Sarah Dégallier Rochat. Sie simuliere Denken, wenn auch beeindruckend gut, selbst bei Fehlern. Man dürfe sich nicht zu sehr beeindrucken lassen, so die Expertin. Ihre Disziplin, die Mathematik, nutze seit Jahrzehnten Hilfsmittel, um Probleme zu lösen: «Deswegen wurden wir nicht überflüssig.» Bei der KI sei es «ein Ausführen von Prozessen, kein Denken», ergänzte Emmanuel Senft. Forschende hätten es in der Hand, klug zu entscheiden, wie sie sie einsetzen.

Es war der Konsens des Nachmittags: KI ersetzt wissenschaftliches Denken nicht. Sie bleibt ein Werkzeug, das menschliche Fähigkeiten erweitert. Doch menschliche Kontrolle und Entscheidungskraft bleiben unerlässlich. Die Mitglieder der Jungen Akademie sehen ihren Beitrag darin, «kritische, ethische und verantwortungsvolle» KI-Praktiken zu fördern – vor allem durch Lehre und Mentoring. Emmanuel Senft machte den Ausblick: «Fragen wir uns nicht nur, welche Rolle KI heute spielt – überlegen wir, wo wir in zehn bis fünfzehn Jahren mit ihr stehen wollen.»