Der erste KI-Sicherheitsreport ist raus

Einfach KI

#Technologie #Matúš Mala, Alwine Schultze, Sean Sdahl #Alwine Schultze #Matúš Mala #Sean Sdahl #Nachrichten #Tech News

14:42

Is your health and wellness podcast optimized for success, or are crucial oversights holding back your potential? I audited a doctor’s podcast recently and was shocked at what I found. This podcast had over 100 episodes—pretty impressive. However, the whole setup of the podcast had some brutal mistakes that I’m sure were holding this doctor back from seeing bigger results. How can optimizing your podcast's website links transform your show's reach? Are you missing out on SEO benefits that could elevate your visibility? Curious about the impact of professional collaboration on your podcast? Don't let simple mistakes hold you back. Tune in to find out how to turn your podcast into a lead-generating powerhouse! Today’s episode includes: How minor mistakes hinder podcast growth and engagement. Why directing podcast episode links on Apple, Spotify, etc to your own website is ideal. Why collaborating with professional teams can elevate your podcast impact and revenue. How maintaining high production standards enhances credibility, especially in the health and wellness space. How omitting crucial subscription links will limit your audience growth. Why owning a proper domain ensures long-term SEO benefits and authority with search engines. How missing social media links in your show notes makes it difficult for listeners to connect with you. Why understanding and avoiding common mistakes ensures maximum ROI from podcasting efforts. Are you pouring your heart into your podcast but still not seeing the growth you deserve? Download our free guide to unlock your podcast’s full potential and expand your impact: https://eastcoaststudio.com/5mistakes Our LinkedIn: https://www.linkedin.com/company/eastcoaststudio/ Our Instagram: https://www.instagram.com/ecpodcaststudio/…

about a year ago 52:21

MP3•Episode home

Ende Januar wurde der erste internationale und unabhängige KI-Sicherheitsreport veröffentlicht – ein Meilenstein in der Debatte um die Risiken rund um den Einsatz von Künstlicher Intelligenz.

In der vierten Folge diskutieren wir, Matus, Sean und Alwine, über die drängendsten Sicherheitsrisiken von KI-Systemen und stellen die entscheidende Frage: Wie viel Regulierung ist wirklich sinnvoll? Einig sind wir uns natürlich nicht.

Auch fassen wir wieder spannende KI-News kurz auf das Wesentliche zusammen. Wie soll es auch anders sein: Top News sind einmal wieder neue Modelle, diesmal von Mistral, Google und OpenAI.

19 episodes

Der erste KI-Sicherheitsreport ist raus

Einfach KI

published about a year ago

MP3•Episode home

Ende Januar wurde der erste internationale und unabhängige KI-Sicherheitsreport veröffentlicht – ein Meilenstein in der Debatte um die Risiken rund um den Einsatz von Künstlicher Intelligenz.

Auch fassen wir wieder spannende KI-News kurz auf das Wesentliche zusammen. Wie soll es auch anders sein: Top News sind einmal wieder neue Modelle, diesmal von Mistral, Google und OpenAI.

19 episodes

#Technologie #Matúš Mala, Alwine Schultze, Sean Sdahl #Alwine Schultze #Matúš Mala #Sean Sdahl #Nachrichten #Tech News

All episodes

Einfach KI

1
KI-Alignment - aber wie? 42:07

4 days ago42:07

42:07

In der 19. Folge von "Einfach KI" wagen sich Matus, Alwine und Sean an das komplexe und brandaktuelle Thema des AI Alignments. Was genau verbirgt sich dahinter, wenn wir davon sprechen, KI-Systeme "auszurichten"? Die drei diskutieren, wie man sicherstellen kann, dass KIs den menschlichen Zielen und Werten folgen – und wessen Werte das im Detail sein sollen. Die Diskussion wird angereichert durch aktuelle Beispiele und persönliche Einschätzungen zur Sicherheit und Manipulierbarkeit von KI-Modellen. Kann es überhaupt neutrale KI geben und wie könnte man das testen? Aber natürlich gibt es auch diese Woche wieder spannende News aus der Welt der Künstlichen Intelligenz: Alwine berichtet über OpenAIs neuen KI-Agenten für Softwareentwicklung: CodeX (oder Codex). Sie beleuchtet dessen Besonderheiten, wie die Nutzung des eigenen CodeX-1 Modells und die detaillierten Konfigurationsmöglichkeiten für Coding Guidelines und Testprozesse. Das führt auch zu einer wichtigen Diskussion über Datensicherheit und den Einsatz solcher Tools im Unternehmenskontext. Matus teilt seine Gedanken zur Integration von Meta KI in WhatsApp und den damit verbundenen Datenschutzbedenken. Außerdem wirft er einen Blick nach Saudi-Arabien, wo ein chinesisches Startup eine KI-unterstützte Klinik testet. Sean liefert den Aufhänger für das Hauptthema mit News zum Twitter KI-Agenten "Grok", der kürzlich durch themenfremde und kontroverse Posts für Aufsehen sorgte. Timeline der Episode: 00:00 Vorgeplänkel 03:36 News der Woche 15:55 Hauptthema: AI Alignment Let's connect on LinkedIn: https://www.linkedin.com/company/einfach-ki-der-podcast…

Einfach KI

1
Das Agentenprotokoll-Quartett: MCP & Co. 41:22

11 days ago41:22

41:22

In der heutigen Episode diskutieren Matus, Alwine und Sean über Agentenprotokolle. Neben dem bereits bekannten MCP beleuchten sie spannende weitere Protokolle wie A2A, ANP und ACP. Was verbirgt sich hinter diesen Kürzeln? Welche Fähigkeiten bringen sie mit und für welche Aufgaben sind sie eigentlich gedacht? Doch bevor wir in die Tiefen der Protokolle eintauchen, werfen wir einen Blick auf die aktuellen Nachrichten aus der KI-Welt: Klarna macht eine Rolle rückwärts vom "AI First"-Ansatz: Alwine berichtet über eine überraschende Kehrtwende des schwedischen Fintech-Unternehmens. SoundCloud plant die Nutzung von Musik für KI-Training: Sean präsentiert eine kontroverse Nachricht aus der Musikindustrie. Timeline der Episode: 00:00 Vorgeplänkel 04:31 News 19:48 MCP und weitere Agentenprotokolle Schaut auch auf unserem LinkedIn Channel vorbei: https://www.linkedin.com/company/106140435/admin/dashboard/…

Einfach KI

1
Edge AI im Check: Braucht KI wirklich die Cloud? 49:08

18 days ago49:08

49:08

In dieser Folge geht es um Edge AI! Wir klären auf, was genau sich hinter diesem Begriff verbirgt, wie sich Edge AI von bekannten Cloud-basierten Systemen wie ChatGPT oder Alexa unterscheidet und diskutieren die spannende Frage: Brauchen wir in Zukunft eher kleinere, spezialisierte Modelle oder bleiben die großen Alleskönner-Modelle das Maß aller Dinge?. Aber natürlich starten wir auch diese Woche wieder mit den aktuellsten News aus der KI-Welt: Matus hat eine interessante Studie im Gepäck, die beleuchtet, wie kritisch wir Deutschen, aber auch andere Nationen, eigentlich mit den Ergebnissen von Large Language Models umgehen und ob wir sie wirklich auf Richtigkeit prüfen. Alwine hingegen berichtet von kuriosen bis tragischen Auswirkungen der KI-Nutzung: Ein Pärchen in Griechenland lässt seine Zukunftsentscheidungen offenbar per Kaffeesatzleserei mit ChatGPT treffen. Außerdem werden zwei weitere ernste Vorfälle, die im Zusammenhang mit der Nutzung von GPT-Modellen stehen, aufs Tablett gebracht. Timeline zur Episode: 00:00 Intro & Geplänkel 04:30 News 16:11 Hauptdiskussion: Edge AI…

Einfach KI

1
Meta.AI - Die Gefahr auf WhatsApp 47:22

25 days ago47:22

47:22

In dieser Folge diskutieren Matus, Alwine und Sean ein brandaktuelles und brisantes Thema: Meta steht wegen "Sexting"-Vorwürfen am Pranger. Es geht darum, wie KI auf Plattformen wie WhatsApp für Rollenspiele missbraucht werden kann und welche ernsten Gefahren das birgt. Im Zentrum der Debatte steht die dringende Frage: Wie können wir unsere Kinder effektiv davor schützen? Aber natürlich starten wir wie gewohnt mit den wichtigsten KI-News der Woche: Sean stellt ein vielversprechendes Startup aus Berlin vor, das an einer KI-Lösung für Rechtsberatung und Kanzleimanagement arbeitet. Alwine berichtet über eine spannende Neuerung vom MIT: ein "Periodensystem für KI". Was steckt dahinter. Und Matus hat diesmal auch eine unglaubliche Story dabei: Ein Podcast hat es geschafft, sechs Monate lang eine KI undercover einzusetzen, ohne dass die Hörer*innen etwas bemerkt haben! Timeline der Episode: 00:00 Intro & Geplänkel 02:18 News der Woche 14:04 Hauptthema: Metas Sexting-Problem – Gefahr & Kinderschutz 40:00 Sinnvolle Spiele für logisches Gehirntraining…

Einfach KI

1
Lassen wir bald KI die Gesetze schreiben? 47:22

5 weeks ago47:22

47:22

In dieser Folge wird’s juristisch futuristisch, denn wir sprechen über die Pläne der Vereinigten Arabischen Emirate, ein KI-System in der Gesetzgebung einzusetzen. Klingt nach Sci-Fi? Ist aber ernst gemeint – und wir diskutieren, was das konkret bedeuten könnte. Welche Chancen entstehen? Wo lauern Gefahren? Und wie könnte die KI tatsächlich heute schon unterstützen? Natürlich starten wir auch diesmal mit News aus der KI-Welt: OpenAI bringt neue Modelle: was steckt drin, was ändert sich? Wir sprechen über das Llama 4 Modell, das große Wellen schlägt, positiv und wohl auch negativ. Über Microsofts launcht von BitNet 1.58 2B4T, einem effizienter Transformer der nächsten Generation, der bereits auf CPUs performant läuft. Und über Bill Gates, der für Aufsehen sorgt mit seiner Prognose, dass Ärzte und Lehrer bis 2035 durch KI ersetzt werden könnten. Timeline der Episode: 00:00 Vorgeplänkel 02:20 News der Woche 17:03 KI in der Gesetzgebung – das Beispiel Vereinigte Arabische Emirate…

Einfach KI

1
To Fine-Tune or not? Mit Dr. Daryoush Vaziri 51:34

6 weeks ago51:34

51:34

In dieser Folge ist Dr. Daryoush Vaziri zu Gast, der Gründer von VAGO solutions und Entwickler von SauerkrautLM, dem ersten deutschsprachigen LLM. Wir sprechen über zentrale Anwendungsfälle, die ihn aktuell bei Kunden beschäftigen, darüber, wann sich Fine-Tuning wirklich lohnt, welchen Aufwand eine solche Pipeline mit sich bringt und welche Kosten typischerweise dahinterstehen. Es sind sicher noch viele Fragen von Matus offen geblieben. Potential für eine zweite Session...…

Einfach KI

1
Vibe Coding Hui oder Pfui? 52:21

7 weeks ago52:21

52:21

In dieser Folge von Einfach KI wird es ein bisschen… vibey. Gemeinsam mit unserem Gast Vladimir Daskalov sprechen wir über das Hypethema Vibe Coding. Was ist das eigentlich und wofür eignet sich Viben eigentlich? Wir diskutieren, was es bringt, wo die Grenzen liegen – und ob dieser Ansatz wirklich nachhaltig produktiver macht. Natürlich gibt’s auch diese Woche frische News aus der KI-Welt: Microsoft schiebt seinen Copiloten noch ein Stück weiter in den Alltag, mit neuen Features und spannender Integration. Und Midjourney V7 ist live, ein neues Modell, das länger auf sich warten lies, liefert beeindruckenden Realismus und neue kreative Möglichkeiten. Achja und da war noch was mit Metas Llama 4 Modell und WhatsApp! Timeline der Episode: 00:00 Intro und Geplänkel 04:46 News der Woche 15:12 Vibe Coding 49:07 Nachgeplänkel…

Einfach KI

1
ChatGPT bring Bildgenerierung auf's nächste Level 38:54

8 weeks ago38:54

38:54

Diese Woche tauchen die drei Hosts, Matus, Sean und Alwine zum ersten Mal tief in die Welt der KI-gestützten Bildgenerierung ein! Wie erschafft man beeindruckende Bilder mit nur wenigen Worten? Welche Tools verwenden wir für unseren Podcast, und worauf muss man dabei besonders achten? Auch in der Newsrunde gibt es Spannendes zu berichten: Zum einen geht es kurz und knapp um das neue Modell von Google - Gemini 2.5, und zum anderen wirft Sean einen kurzen Blick auf DeepSeek V3 und OpenAIs brandneues Bildgenerierungsmodell, eine perfekte Überleitung zum Hauptthema. Timeline der Episode: 00:00 Intro und Geplänkel 03:03 News der Woche 17:27 KI Bildgenerierung, Wie und Womit? 33:15 Top 3 Tools der Hosts…

Einfach KI

1
MCP was steckt hinter dem Hype? 46:22

9 weeks ago46:22

46:22

In der 11. Folge dreht sich alles um MCP – aber was genau steckt dahinter? Matus bringt das Hauptthema mit und feiert gleichzeitig seine einzigartige Premiere als Themenpräsentator. Freut euch auf eine spannende Einführung und eine lebhafte Diskussion rund um dieses Konzept. Natürlich gibt es auch diese Woche wieder aktuelle News: Alwine berichtet über Googles neue Features in Gemini und NotebookLM, hier gibt es einiges Neues zu entdecken. Während Sean die wichtigsten Highlights von NVIDIAS GTC 2025 für euch bereit hält. Welche neuen Entwicklungen gibt es in der KI-Hardware und was bedeutet das für die Zukunft der Modelle? Timeline der Episode: 00:00 Intro und Geplänkel 05:14 News der Woche 20:28 MCP – Was steckt dahinter? (Matus’ Premiere!)…

Einfach KI

1
Darf KI sich weigern dürfen? 39:29

10 weeks ago39:29

39:29

In der zehnten (!) Folge von Einfach KI diskutieren Matúš, Alwine und Sean über die vom Anthropic CEO Dario Amodei vorgeschlagene Option des "quit job"-buttons für KI Modelle. Was passiert, wenn sich die KI unwohl fühlt bei der Bearbeitung einer Aufgabe, die der Nutzer einem vorgibt? Natürlich gibt es heute auch wieder ein paar News aus der schnelllebigen Welt der Künstlichen Intelligenz. Hier ist nochmal die Timeline der Jubiläumsfolge 10: 00:00 Intro und Geplänkel 08:14 News der Woche 15:35 Unterhaltsame Diskussion über den "Quit Job"-Button…

Einfach KI

1
Die Grundlagen von GPTs einfach erklärt 50:45

11 weeks ago50:45

50:45

Heute geht es in der neunten Folge von Einfach KI um eine einfache Erklärung was so hinter den Large Language Models (im Fokus: GPTs) steckt. Wie sie trainiert werden und was Attention dabei zu suchen hat. Sean, als unser Techie, erklärt das natürlich euch Zuhörern möglichst verständlich. Natürlich fehlen auch in dieser Folge die News der Woche nicht. Eine sticht besonders hervor: dLLMs, wofür wohl das d steht? Schalte ein und erfahre mehr. Hier ist nochmal die Timeline der Episode: 00:00 Intro und Geplänkel 09:20 News der Woche 25:38 Was sind LLMs (GPTs) und wie funktionieren sie? 41:18 Grenzen und Zukunftsausblick für LLMs…

Einfach KI

1
Wie verändert KI unsere digitale Archive? 1:04:03

12 weeks ago1:04:03

1:04:03

In der heutigen Folge wurde Sean durch die wunderbare Autorin Rachel-Sarah Sircar ersetzt, sodass er seinen Aufenthalt in den USA noch intensiver genießen kann. Selbstverständlich bleiben wir auch heute unserem bewährten Format treu und haben spannende Neuigkeiten aus der Branche für euch – es hat sich wieder einiges auf dem Markt getan. In der Hauptdiskussion widmen wir uns der Frage, inwiefern Künstliche Intelligenz und digitale Archive entweder die Wahrhaftigkeit oder die Manipulation unserer Geschichte beeinflussen. Außerdem habt ihr die Möglichkeit, das Buch „IT für Anfänger“ zu gewinnen, welches sowohl für Erwachsene als auch für Kinder geschrieben wurde und kurz vor der Veröffentlichung steht. Hört genau hin, um zu erfahren, wie ihr teilnehmen könnt – die Teilnahmefrist endet am 12. März. Hier ist nochmal die Timeline der Episode: 00:00 Intro 01:27 Rachel stellt sich vor 11:41 News 21:49 Diskussion – KI und digitale Archive 57:54 Buchvorstellung – IT für Anfänger…

Einfach KI

1
News, News, News 30:07

13 weeks ago30:07

30:07

Eine kurze aber voll gepackte Folge mit vielen News aus der vergangenen Woche (KW 8) mit wenig Bla bla und mehr Fokus auf die News. Wie findet ihr das Format? Fokus auf News, aber dennoch ein wenig Diskussion darüber, wie Modelle aktuell gehalten werden können. Oder spannender, wie schafft es Elon sein neuestes Modell hörig zu machen?…

Einfach KI

1
Welche Sicherheitslücken haben KI-Systeme? 50:17

14 weeks ago50:17

50:17

In dieser spannenden Episode von Einfach KI tauchen Matus, Alwine und Sean tief in die faszinierende Welt der Künstlichen Intelligenz ein. Sie beleuchten die möglichen Sicherheitsrisiken, die mit KI-Systemen, insbesondere im Bereich der generativen KI, verbunden sind. Erfahrt außerdem welche Herausforderungen und Gefahren lauern und wie wir uns darauf vorbereiten können. Die wichtigsten News der vergangenen Woche dürfen natürlich auch nicht fehlen. Zeitstempel: 00:00 Intro 05:20 News 05:45 OpenAI GPT4.5 & GPT5 07:10 Google Agedetection 09:14 Deep Research Perplexity 11:55 Klage gegen Cohere 13:30 News Wrap Up 21:30 Diskussion - Sicherheitslücken in KI-Systemen (GenAI) 47:22 Highlights PS: Entschuldigt für das Audio von Alwine, sie gelobt Besserung beim nächsten Mal! Technik muss eben gelernt sein!…

Einfach KI

1
KI im Alltag und ihre größten Reinfälle 53:39

15 weeks ago53:39