Was wäre, wenn Technologie uns die Arbeit abnähme?

Wir kön­nen uns über­le­gen, wel­che Robo­ter wir bau­en wollen”

Wie berech­tigt ist die Angst, durch intel­li­gen­te Maschi­nen ersetzt zu wer­den? Und stimmt es, dass Tech­nik neu­tral ist? Wir haben den KI-Exper­ten Frank Jäkel gefragt.

Ein alter Computer von der Größe eines Wandschranks
Ein Computer im Jahre 1950

Fan­gen wir doch direkt mit der Leit­fra­ge unse­rer Debat­te an: Was wäre, wenn Tech­nik uns die Arbeit abnähme?

Frank Jäkel: Das sind im Grun­de zwei Fra­gen. Zum einen, was wird pas­sie­ren, wenn die Maschi­nen alles über­neh­men und zum ande­ren, wird das über­haupt pas­sie­ren? Die Dis­kus­si­on kam so rich­tig in Gang mit der Stu­die von Frey und Osbor­ne aus dem Jahr 2013. Dar­in haben sie behaup­tet, dass knapp fünf­zig Pro­zent aller US-Arbeits­plät­ze durch KI gefähr­det sind. Bei einer Über­tra­gung auf den deut­schen Arbeits­markt kamen immer noch zwei­und­vier­zig Pro­zent her­aus. Wenn man sich die Stu­die aber genau ansieht, dann ist es nicht beson­ders über­zeu­gend, was da gemacht wur­de. Eine Hand­voll KI-Expert*innen hat sich eine lan­ge Lis­te des US-Arbeits­mi­nis­te­ri­ums mit allen Beru­fen ange­schaut und ins Blaue spe­ku­liert, wel­che Beru­fe ersetzt wer­den kön­nen und wel­che nicht. Bei den aller­meis­ten Beru­fen hat­ten sie eigent­lich kei­ne Ahnung. Aus­ge­hend von den Beru­fen, bei denen sie mein­ten, es ein­schät­zen zu kön­nen, wur­den dann sta­tis­ti­sche Vor­her­sa­gen über ver­gleich­ba­re Beru­fe gemacht. So kam die hohe Zahl zustande. 

Aber was ist in die­sem Fall mit dem Argu­ment, dass auch neue Jobs ent­ste­hen würden?

Genau, das ist ein sehr wich­ti­ger Kri­tik­punkt. In der Ver­gan­gen­heit gab es bereits Auto­ma­ti­sie­rungs­wel­len. In der Gesamt­schau kann man sagen, dass immer mehr Stel­len neu ent­stan­den als weg­ge­fal­len sind. Wenn aber in kür­zes­ter Zeit fünf­zig Pro­zent der Men­schen neue Jobs suchen müss­ten, wäre das trotz­dem ein Pro­blem. Wenn wir mit dem Nach­qua­li­fi­zie­ren nicht hin­ter­her kom­men, wenn also neue Jobs ent­ste­hen, aber die Men­schen sie nicht über­neh­men kön­nen, haben wir vie­le ohne Arbeit. 

Dass wir es kön­nen, heißt nicht, dass wir es machen müssen”

Frank Jäkel hat Kogni­ti­ons­wis­sen­schaft, Neu­ro­wis­sen­schaft und Künst­li­che Intel­li­genz in Osna­brück, Tübin­gen und Edin­burgh stu­diert und ist jetzt Pro­fes­sor am Cent­re for Cogni­ti­ve Sci­ence der TU Darm­stadt. Dort forscht er zu mensch­li­chem und maschi­nel­lem Ler­nen und arbei­tet außer­dem gera­de an einem popu­lär­wis­sen­schaft­li­chen Buch über Künst­li­che Intelligenz.

Ist das denn realistisch?

Ich glau­be, es stimmt, dass die Geschwin­dig­keit der tech­no­lo­gi­schen Ent­wick­lung stark zunimmt, das bedeu­tet aber nicht, dass die­se Ent­wick­lung auf dem Arbeits­markt genau­so schnell abläuft. Da muss man genau­er hin­schau­en. Die Zahl von fünf­zig Pro­zent ist sehr hoch gegrif­fen. Nach­fol­gen­de Stu­di­en haben genau­er gear­bei­tet. Die haben nicht bei gan­zen Beru­fen Dau­men hoch oder run­ter gesagt, son­dern bei den ein­zel­nen Beru­fen geschaut, aus wel­chen Tätig­kei­ten sie bestehen. Es wer­den näm­lich nicht gan­ze Beru­fe durch Maschi­nen ersetzt, son­dern bestimm­te Tätigkeiten. 

Wenn man sich also anschaut, wel­che Fähig­kei­ten man für einen Beruf braucht und wel­che Fähig­kei­ten aktu­el­le KI-Tech­no­lo­gi­en haben, dann fin­det man in der Tat Tätig­kei­ten, die leicht auto­ma­ti­sier­bar sind. Aber es gibt eigent­lich kei­ne Beru­fe, bei denen ein Groß­teil der Tätig­kei­ten auto­ma­ti­sier­bar wäre. Neh­men wir einen Fah­rer von Essen auf Rädern. Autos fah­ren zwar immer auto­no­mer, aber der Fah­rer fährt ja nicht nur von A nach B. Viel­leicht hält er ein klei­nes Schwätz­chen mit den Men­schen, die das Essen erhal­ten, viel­leicht schaut er nach dem Rech­ten, ob es den Men­schen gut geht. Das sind Aspek­te sei­nes Jobs, die nicht leicht auto­ma­ti­sier­bar sind. Auch das Essen in den vier­ten Stock zu tra­gen, da sehe ich nicht, dass Robo­ter das in naher Zukunft über­neh­men kön­nen. Auch wenn das Auto von allei­ne fährt, ist der Fah­rer nicht schnell und leicht zu erset­zen. Und dann ist die Fra­ge noch, wol­len wir das überhaupt?

Wie sieht Ihre Ant­wort aus?

Wenn wir die erwähn­te Stu­die von Frey und Osbor­ne neh­men, dann ist es ja nicht nur so, dass wir schau­en müs­sen, ob es tech­nisch mög­lich ist, bestimm­te Beru­fe zu erset­zen, son­dern ob wir das über­haupt möch­ten. Dass wir es kön­nen, heißt nicht, dass wir es machen müs­sen. Die Robo­ter und KI-Pro­gram­me sind ja noch nicht da. Wir kön­nen uns über­le­gen, wel­che wir bau­en wol­len und wel­che Anwen­dun­gen uns sinn­voll erschei­nen. Es wird Umstruk­tu­rie­run­gen geben, die alle Jobs unab­hän­gig von Exper­ti­se und Ein­kom­men betref­fen. Wir müs­sen dis­ku­tie­ren, wie wir unse­re Arbeits­welt orga­ni­sie­ren wollen. 

Im bes­ten Fall wird der Mensch durch KI ent­las­tet. Dann hat er mehr Res­sour­cen, sich um jene Berei­che sei­nes Berufs zu küm­mern, die nicht auto­ma­ti­siert wer­den kön­nen oder sol­len. Zum Bei­spiel in der Pfle­ge. Dort hat man durch die tech­ni­sche Unter­stüt­zung dann viel­leicht mehr Zeit für die Patient*innen. Das ist ver­mut­lich, wes­halb man den Job machen woll­te und nicht etwa der Papier­kram. Wir müs­sen dar­auf ach­ten, dass wir die Res­sour­cen, die durch den Ein­satz von Maschi­nen frei wer­den, für jene Sachen nut­zen, für die wir sie nut­zen wol­len. Also nicht unbe­dingt nur zur Ein­spa­rung von Arbeitsplätzen.

Der Schöp­fer­kom­plex und die Waschmaschine

Sol­che Ein­spa­run­gen sind kein zukünf­ti­ges Pro­blem, wir fin­den sie heu­te bereits zuhauf. Etwa am Flug­ha­fen, wo man den Check-In und die Gepäck­auf­ga­be allei­ne macht. Auf Boden­per­so­nal trifft man meis­tens erst kurz bevor man ins Flug­zeug tritt, dann wird die Bord­kar­te und der Aus­weis kon­trol­liert. Stellt das für alle Betei­lig­ten eine Ver­bes­se­rung dar?

Dabei han­delt es sich um eine Ver­la­ge­rung von Arbeit auf den Kun­den. Ein Arbeits­platz wird abge­schafft, aber die Arbeit wird nicht abge­nom­men. Sie wird nun zum Teil von Maschi­nen, aber zum Teil auch von der Kund­schaft über­nom­men. In gewis­sem Sin­ne glau­be ich nicht, dass das eine Ver­bes­se­rung von Ser­vice ist. Man kann natür­lich immer sagen, dass es dar­um geht, mög­lichst viel Geld ein­zu­spa­ren. Aber ist es bes­ser für die Kund­schaft oder die Belegschaft?

Eine Fol­ge des selb­stän­di­gen Check-Outs im Super­markt ist, dass mehr betro­gen und geklaut wird. Forscher*innen der schot­ti­schen Aber­tay Uni­ver­si­ty haben nun her­aus­ge­fun­den, dass die­ses Pro­blem ver­rin­gert wer­den kann, wenn die Kund­schaft am Ter­mi­nal auf ein digi­ta­les men­schen­ähn­li­ches Gesicht trifft. Ist das nicht eine absur­de Ent­wick­lung, dass wir die Arbeit auf den Kun­den über­tra­gen, dann aber die mensch­li­che Kom­po­nen­te fehlt und simu­liert wer­den muss?

Es gibt viel For­schung zur Inter­ak­ti­on zwi­schen Mensch und Maschi­ne. Ins­be­son­de­re weil man ger­ne eine mög­lichst natür­li­che Kom­mu­ni­ka­ti­on zwi­schen Mensch und Maschi­ne hät­te. Der offen­sicht­li­che Ansatz ist, der Maschi­ne eine men­schen­ähn­li­che Gestalt zu geben. Das fin­de ich pro­ble­ma­tisch. Das hat was von einem Taschen­spie­ler­trick. Man soll glau­ben, man hät­te es mit einem Men­schen zu tun. Natür­lich kann man sagen, dass jedem klar sei, dass das nicht der Fall ist. Aber war­um macht man das dann? Wenn uns die sozia­le Inter­ak­ti­on mit einem Men­schen wich­tig ist, kann sie ja leicht mit einem Men­schen erfol­gen. Wie­so also mög­lichst men­schen­ähn­li­che Kopi­en bau­en? Außer man ist, so wie in Ihrem Bei­spiel, an der Täu­schung inter­es­siert oder hat einen Schöp­fer­kom­plex. In der Ver­gan­gen­heit haben wir Maschi­nen gebaut, die uns unlieb­sa­me Arbei­ten abneh­men. So wie die Wasch­ma­schi­ne, eine der bes­ten Erfin­dun­gen aller Zei­ten. Und die sieht über­haupt nicht aus wie ein Mensch.

Ein Pro­blem der aktu­el­len Dis­kus­si­on ist, dass wir den Men­schen als Feh­ler­quel­le sehen”

Aber bei KI stel­len sich doch ande­re Fra­gen, oder? Die Wasch­ma­schi­ne kann schließ­lich nicht ohne den Men­schen funktionieren. 

Mei­ne Visi­on ist, dass wir es bei KI so machen wie bei Tech­no­lo­gi­en der Ver­gan­gen­heit. Mein Lieb­lings­bei­spiel ist der Taschen­rech­ner. Er kann viel bes­ser rech­nen als wir und macht dabei kei­ne Feh­ler. Dadurch, dass ich ihn nut­ze, habe ich kogni­ti­ve Res­sour­cen frei, um kom­pli­zier­te­re Pro­ble­me zu lösen. Ich kann die Arbeit bes­ser machen, die ich wirk­lich machen will. Der Taschen­rech­ner ist ein tol­les kogni­ti­ves Werk­zeug. Ein Pro­blem der aktu­el­len Dis­kus­si­on ist, dass wir den Men­schen als Feh­ler­quel­le sehen und den­ken, es gehe dar­um, ihn zu erset­zen. Ich wün­sche mir, dass man KI mehr als kogni­ti­ves Werk­zeug sieht, das den Men­schen bei sei­ner Arbeit unterstützt.

Rech­nen ist eine Auf­ga­be, bei der es meis­tens auf ein rich­ti­ges oder fal­sches Ergeb­nis hin­aus­läuft. Was bedeu­tet KI aber für Beru­fe, bei denen kom­ple­xe oder schwer­wie­gen­de Ent­schei­dun­gen getrof­fen wer­den müssen? 

Wir müs­sen debat­tie­ren, ob es Ent­schei­dun­gen gibt, die wir uns nicht von Maschi­nen abneh­men las­sen möch­ten. Wie fin­den wir es, wenn Droh­nen nicht nur fern­ge­steu­ert genutzt wer­den kön­nen, son­dern teil­wei­se selb­stän­dig Ent­schei­dun­gen tref­fen? Zum Bei­spiel bei mili­tä­ri­schen Ein­sät­zen. Das sind wich­ti­ge ethi­sche Fra­gen. Die öffent­li­che Dis­kus­si­on beschäf­tigt sich aber oft mit Sci­ence-Fic­tion-Sze­na­ri­en. Vie­le Fra­gen stel­len sich eigent­lich bis­her nur theo­re­tisch, weil die Tech­no­lo­gie gar nicht so weit ist. Bei unse­rer Fra­ge hier ist es ja auch so, wir sind in vie­len Fäl­len weit davon ent­fernt, dass Maschi­nen uns die Arbeit abneh­men. Ich ver­ste­he, dass spe­ku­la­ti­ve Fra­gen zu inter­es­san­ten Dis­kus­sio­nen füh­ren. Aber mei­ne Angst ist, dass die kon­kre­ten Pro­ble­me, die wir mit der Ein­füh­rung bereits exis­tie­ren­der Tech­no­lo­gi­en haben wer­den, dane­ben kei­ne aus­rei­chen­de Auf­merk­sam­keit bekommen.

Das aktu­el­le Sta­di­um der KI beruht auf Crowdsourcing

Wel­che kon­kre­ten Pro­ble­me sind das?

Mit der Ein­füh­rung tech­ni­scher Sys­te­me gehen vie­le Ände­run­gen in den Abläu­fen und der Orga­ni­sa­ti­on von Arbeit ein­her. Arbeit wird neu ver­teilt, Ver­ant­wor­tung wird neu ver­teilt. Sagen wir, wir möch­ten ein Sys­tem ein­füh­ren, dass Ärz­te bei der Dia­gno­se unter­stützt. Da haben wir hand­fes­te Pro­ble­me, wenn wir über­le­gen, wer hat die Ver­ant­wor­tung. Ich fra­ge mich, ob Ärzt*innen Ent­schei­dun­gen an Maschi­nen abge­ben wol­len, wenn sie trotz­dem ethisch und recht­lich die Ver­ant­wor­tung tra­gen. Mein Ide­al­bild wäre, dass Ärzt*innen durch die­se neu­en kogni­ti­ven Werk­zeu­ge unter­stützt wer­den, bes­se­re Ärzt*innen zu sein. Sie wer­den nicht über­flüs­sig und sie ver­lie­ren nicht ihre Exper­ti­se. Sie ste­hen nicht nur neben der Maschi­ne und seg­nen ab, was die Maschi­ne macht. Sie müs­sen noch immer genau ver­ste­hen, was pas­siert. Das ist so wie beim Taschen­rech­ner. Ich sehe nicht, dass wir in der Medi­zin kom­ple­xe und schwer­wie­gen­de Ent­schei­dun­gen bald voll­stän­dig an KI-Sys­te­me abge­ben wer­den. Ganz prak­tisch stellt sich dann aber das kon­kre­te Pro­blem, wie genau wir Arbeit und Ver­ant­wor­tung zwi­schen Mensch und Maschi­ne auf­tei­len. Hier könn­te man wahr­schein­lich viel aus der Erfah­rung der Luft­fahrt im Umgang mit Auto­pi­lo­ten lernen.

Wir haben viel über tra­di­tio­nel­le Beru­fe gespro­chen. Was ist mit Jobs und Tätig­kei­ten, die durch die Digi­ta­li­sie­rung und KI erst entstehen?

Hin­ter KI steht sehr viel mensch­li­che Arbeit. Zum einen die Arbeit von den Men­schen, die KI-Sys­te­me ent­wi­ckeln. Sie sind die Gewin­ner auf dem Arbeits­markt, denn momen­tan gibt es zu weni­ge KI-Expert*innen. Zum ande­ren gibt es aber auch noch so eini­ge Hilfs­ar­bei­ten im Hin­ter­grund. Der aktu­el­le Forst­schritt in der KI beruht größ­ten­teils auf dem soge­nann­ten maschi­nel­len Ler­nen. Um zu ler­nen, dass auf einem Bild eine Kat­ze zu sehen ist, muss ein KI-Sys­tem sehr vie­le Bil­der gese­hen haben. Und zu jedem Bild muss dafür ein Mensch dem Sys­tem sagen, ob dar­auf eine Kat­ze zu sehen ist. Ohne vie­le Daten geht nichts, und die­se Daten müs­sen durch Men­schen erst ein­mal erzeugt werden. 

Die­se Arbeit wird viel­fach in den sozia­len Net­zen umsonst erle­digt, zum Bei­spiel wenn ein Nut­zer in der Bild­un­ter­schrift von sei­ner Kat­ze schreibt. Es kann sich aber auch um schlecht bezahl­te Arbeit auf Crowd­sour­cing-Platt­for­men wie Ama­zons Mecha­ni­cal Turk han­deln. Mecha­ni­cal Turk ist ja ein inter­es­san­tes Bei­spiel, da es eigent­lich das Gegen­teil von KI ist. Die Tätig­kei­ten dort sind rela­tiv ein­fach, aber kein Com­pu­ter kann sie über­neh­men. Die crowd­sour­cet man an ein Online-Pre­ka­ri­at. Das Sta­di­um der KI, in dem wir uns der­zeit befin­den, beruht in einem gewis­sen Maße auf sol­chem Crowd­sour­cing. Das kann ein Über­gangs­pro­blem sein, weil KI die­se Hilfs­ar­bei­ten viel­leicht bald über­flüs­sig macht. Es kann aber trotz­dem nicht sein, dass Din­ge, auf die wir uns als Gesell­schaft arbeits­recht­lich geei­nigt haben, durch Crowd­sour­cing unter­lau­fen werden. 

Die Vor­ur­tei­le der KI

Der Tech­nikhis­to­ri­ker Mel­vin Kranz­ber­ger hat bereits Mit­te der 1980er den Satz geprägt: Tech­nik ist weder gut noch böse; noch ist sie neu­tral.” Trotz­dem ent­ste­hen immer wie­der Pro­ble­me, weil neue Tech­no­lo­gi­en dis­kri­mi­nie­ren­de Struk­tu­ren repro­du­zie­ren. Gibt es also noch immer kein ange­mes­se­nes Bewusst­sein dafür?

Ich glau­be, dass Tech­nik neu­tral sei, ist so eine Ein­stel­lung, die man häu­fig unter tech­ni­kaf­fi­nen Men­schen fin­det. Sie zie­hen sich ein wenig aus der Ver­ant­wor­tung, indem sie sagen, naja, die Tech­nik ist neu­tral, und was ande­re damit machen, ist nicht mein Pro­blem. Inso­fern soll­te gel­ten, dass wir die Ent­wick­lung der Zukunft nicht nur den Techniker*innen über­las­sen dür­fen. Aber es ist auch nicht so, dass es gar kein Bewusst­sein dafür gibt. An vie­len tech­ni­schen Uni­ver­si­tä­ten wird Wert dar­auf gelegt, dass ihre Ingenieur*innen einen Blick über den Tel­ler­rand wer­fen, also zum Bei­spiel Kur­se in Sozio­lo­gie, in Psy­cho­lo­gie oder Phi­lo­so­phie belegen. 

Aber es geht nicht nur um sozio­lo­gi­sche, psy­cho­lo­gi­sche oder phi­lo­so­phi­sche Fra­gen, son­dern auch um kon­kre­te Lebens­rea­li­tä­ten. Was bedeu­tet es etwa, wenn Teams haupt­säch­lich aus Män­nern bestehen oder kaum Erfah­rung mit kör­per­li­cher Behin­de­rung oder Ras­sis­mus haben?

Es stimmt sicher­lich, dass über­wie­gend Män­ner in den Teams arbei­ten, die die Sys­te­me ent­wi­ckeln. Es wür­de mich wun­dern, wenn das kei­ne Aus­wir­kun­gen dar­auf hät­te, wel­che Anwen­dun­gen als inter­es­sant und wich­tig ange­se­hen wer­den. Wenn man sich die frü­hen Tage der KI-For­schung anschaut und wel­che The­men das Feld damals auf­re­gend fand, dann sieht man das. Eines der The­men war Schach­spie­len. Für die Leu­te war klar, dass Schach ein beson­de­res Bei­spiel für Intel­li­genz ist. Sie haben das gern gespielt, also haben sie an einem Schach­com­pu­ter gear­bei­tet. Wenn die­se Art der For­schung in einem ande­ren Kul­tur­kreis begon­nen hät­te, wäre es viel­leicht etwas ande­res gewe­sen als Schach. 

Heu­te arbei­ten For­scher an Robo­tern, die Fuß­ball spie­len, oder an KI-Pro­gram­men, die das Com­pu­ter­spiel Star­craft spie­len. Da weiß ich nicht, wie viel Selbst­re­fle­xi­on es wirk­lich gibt. Es ist sicher­lich nicht so, dass es kei­ne gibt. Ler­nen­de KI-Sys­te­me, die von Men­schen mit Daten gefüt­tert wer­den, die Vor­ur­tei­le ent­hal­ten, über­neh­men die­se Vor­ur­tei­le. Weil des­halb bereits eini­ge KI-Sys­te­me ras­sis­ti­sche Vor­ur­tei­le gezeigt haben, gibt es im Feld gera­de viel Dis­kus­si­on über Fair AI”. In mei­ner Wahr­neh­mung dreht sich die Dis­kus­si­on aber oft um tech­ni­sche Lösun­gen. Über die Diver­si­tät der Ent­wick­lungs­teams wird sich im Ver­gleich wahr­schein­lich zu wenig Gedan­ken gemacht.

Wir müs­sen uns da auch selbst behaupten”

Bei der Recher­che habe ich einen oft geteil­ten Thread auf Twit­ter gefun­den, der sehr gut zu Ihrem Bei­spiel mit dem Bring­dienst von Essen auf Rädern passt. Eine Frau, die einen Roll­stuhl nutzt, wur­de in den USA von einem Lie­fer­ro­bo­ter dar­an gehin­dert, auf die Bord­stein­ab­sen­kung zu gelan­gen. Sie steck­te also auf der Stra­ße fest und hät­te im schlimms­ten Fall in einen Auto­un­fall ver­wi­ckelt wer­den kön­nen. Da geht es nicht nur dar­um, ob wir beim Ein­satz von Robo­tern auf ein wenig Zwi­schen­mensch­lich­keit ver­zich­ten, son­dern um ein hand­fes­tes Sicher­heits­pro­blem. Ist das nicht ein Zei­chen dafür, dass bestimm­te Men­schen­grup­pen bei der Ent­wick­lung von KI noch immer nicht aus­rei­chend mit­ge­dacht oder ein­ge­bun­den werden?

Sicher. Es ist aber auch ein Sym­ptom einer Ent­wick­lungs­phi­lo­so­phie, die ein­fach mal schnell Sachen aus­pro­biert und sich um auf­tre­ten­de Pro­ble­me dann spä­ter küm­mert. Das spie­gelt sich in den belieb­ten Mot­tos move fast and break things“ oder it‘s bet­ter to ask for­gi­veness than per­mis­si­on“ wider.

Solch eine Hal­tung klingt für man­che Men­schen aber bedroh­lich. Was pas­siert, wenn wir der Tech­nik aus­ge­lie­fert sind, wenn bestehen­de Unge­rech­tig­kei­ten sogar ver­stärkt werden? 

Ich glau­be, es ist ein gro­ßer Feh­ler, zu glau­ben, dass die Tech­nik über uns her­ein­bricht, dass da neu­tra­le Sachen ent­wi­ckelt wer­den, auf die wir kei­nen Ein­fluss haben. Selbst wenn die Tech­no­lo­gie sich schnell ent­wi­ckelt, die gesell­schaft­li­che Ent­wick­lung ist sehr viel lang­sa­mer. Die sozia­le Akzep­tanz muss da sein, die recht­li­chen Rah­men­be­din­gun­gen müs­sen geschaf­fen wer­den. Der Wan­del wird nicht von heu­te auf mor­gen kom­men. Das gibt uns Zeit, das alles zu dis­ku­tie­ren und oft sind es genau die­se Dis­kus­sio­nen, die ver­hin­dern, dass Din­ge von heu­te auf mor­gen ein­ge­führt wer­den. Des­we­gen bin ich zuver­sicht­lich, dass da nichts über uns her­ein­bricht. Aber wir müs­sen uns da auch selbst behaup­ten und die Din­ge in die Hand neh­men und sagen, wir möch­ten die Zukunft gestalten.