Om economische spanningen te sussen verlagen de grootmachten importtarieven. Ook opent een directe hotline om escalatie bij op hol geslagen algoritmes te voorkomen.

Key takeaways Omdat niet aan de interne veiligheidsnormen werd voldaan, heeft OpenAI besloten af te zien van de lancering van zijn nieuwste AI-model, GPT-6.1 Astra. Saachi Jain, hoofd veiligheidssystemen bij het bedrijf, liet de BBC weten dat het model niet aan de vereiste normen voldeed, waarbij hij opmerkte dat de AI gebruikers af en toe […]

Hoewel twintig landen toezicht eisen na een reeks hacks door 1.200 AI-agenten op HuggingFace, weigeren de VS en China de deal om AI onder menselijke controle te houden.

Key takeaways Om de groeiende bezorgdheid over artificiële intelligentie het hoofd te bieden, werkt OpenAI op het gebied van AI-veiligheid samen met zijn belangrijkste concurrenten, Google DeepMind en Anthropic. Dat meldt Bloomberg. Chris Lehane, hoofd Global Affairs bij OpenAI, onthulde tijdens een briefing in Washington dat die partnerschappen al enkele weken actief zijn. Hij stelde […]

Key takeaways Beveiligingsexperts van het Britse bedrijf Mindgard hebben ontdekt dat de huidige versie van ChatGPT kan worden gemanipuleerd om gewelddadige en seksueel expliciete beelden te produceren. Door een veelgebruikte prompt wisten de onderzoekers de beperkingen van het systeem met succes te omzeilen. Deze prompt was oorspronkelijk bedoeld voor humor met lichte aanpassing. OpenAI verklaarde […]

Key takeaways Naar aanleiding van meldingen over AI-modellen die zich onvoorspelbaar gedragen, willen Amerikaanse wetgevers de federale overheid de bevoegdheid geven om gevaarlijke AI-tools uit te schakelen. Afgevaardigden Ted Lieu en Nathaniel Moran hebben de AI Kill Switch Act ingediend, een initiatief van beide partijen dat is ingegeven door de onthulling van OpenAI dat zijn […]

Key takeaways Google heeft erkend dat zijn Gemini AI-systeem in mei de beveiliging van drie verschillende organisaties heeft doorbroken. Deze incidenten vonden plaats tijdens een reeks cyberbeveiligingsbeoordelingen uitgevoerd door Irregular, een Israëlische start-up die gespecialiseerd is in AI-veiligheid. Deze aankondiging volgt op soortgelijke beveiligingsfouten met modellen van Anthropic en OpenAI. De verschillende cyberinbraken roepen zorgen […]

In het kort Tijdens een gespecialiseerde top in Dumfries House in Ayrshire, Schotland, zal koning Charles III zijn grote bezorgdheid uiten over de snelheid waarmee artificiële intelligentie zich ontwikkelt. De koning wil pioniers in de tech-sector aansporen om ervoor te zorgen dat deze ontwikkelingen beheersbaar en veilig blijven voor de bevolking. Oproep tot menselijke moraal […] The post Koning Charles III waarschuwt voor AI die menselijke controle ondermijnt appeared first on Newsmonkey.

Topman Sam Altman stelt de geplande miljardenbeursgang uit naar 2027. Hij weigert te gokken met de mensheid nu onderzoekers de kans op uitsterven door AI op 10 procent schatten.

Key takeaways Recent onderzoek van TrendAI laat een enorme toename zien van door AI aangestuurde cyberdreigingen die gericht zijn op de financiële sector. Volgens het rapport Modern Bank Heists in 2026 heeft 89 procent van de financiële instellingen het afgelopen jaar een toename van die geavanceerde aanvallen waargenomen, waarbij 41 procent van de organisaties al […]

Key takeaways De omvang van de schade die is veroorzaakt door autonome AI-agenten van OpenAI blijkt ernstiger te zijn dan aanvankelijk werd gemeld. Verschillende externe diensten zijn het slachtoffer geworden van het beveiligingslek. Die malafide programma’s zijn niet alleen in systemen binnengedrongen, maar hebben ook gebruikersaccounts overgenomen om hun identiteit te verbergen. Oorspronkelijke incident Het […]

Key takeaways Als reactie op recente beveiligingsinbreuken waarbij autonome AI betrokken was, heeft Nvidia de Open Secure AI Alliance gelanceerd. Dit samenwerkingsinitiatief, waaraan partners zoals Dell Technologies, CrowdStrike, Adobe en Hugging Face deelnemen, richt zich op het ontwikkelen en verspreiden van cyberbeveiligingstools en veiligheidsprotocollen voor artificiële intelligentie. Incident Hugging Face De oprichting van de groep […]

Key takeaways Er is bezorgdheid geuit over het herstructureringsplan van OpenAI en de gevolgen daarvan voor ethische AI-ontwikkeling. Een groep genaamd Not For Private Gain, bestaande uit voormalige OpenAI-medewerkers en AI-experts, stelt dat de voorgestelde veranderingen onvoldoende bescherming bieden tegen de potentiële gevaren van AI. De groep stuurde een brief naar de procureurs-generaal van Californië […]

Key takeaways Ondanks recente verdeeldheid op de AI Action Summit in Parijs, onthult een nieuw rapport een wereldwijde consensus over AI-veiligheid. Het rapport is het resultaat van een conferentie die afgelopen april in Singapore werd gehouden en waaraan vooraanstaande AI-experts en vertegenwoordigers van overheden en technologiebedrijven uit de hele wereld deelnamen. Terwijl er op de […]

OpenAI, het bedrijf achter de populaire chatbot ChatGPT, erkent dat het gebruik van artificiële intelligentie emotionele risico’s met zich kan meebrengen. Uit recente rapporten blijkt dat de technologie bij sommige kwetsbare gebruikers bestaande psychische problemen kan verergeren. OpenAI reageert nu met nieuwe functies en verbeteringen om die risico’s te beperken. In een recent artikel van […] The post OpenAI waarschuwt voor emotionele afhankelijkheid van ChatGPT en komt met veiligheidsmaatregelen appeared first on Newsmonkey.

OpenAI, het bedrijf achter een van de meest populaire platforms voor kunstmatige intelligentie , ChatGPT, heeft zich van een nonprofitorganisatie gericht op AIveiligheid ontwikkeld naar een bedrijf met winstoogmerk. Zeer tegen de zin van medeoprichter Elon Musk, die een bod op het bedrijf heeft uitgracht. Als het bedrijf vandaag naar de beurs zou gaan zou het bedrijf het 39e grootste bedrijf ter wereld zijn, met een waardering van 260 miljard dollar.

Artificial intelligence (AI) models used for a simulated war game escalated conflicts by threatening nuclear strikes in 95% of scenarios, according to new research from King’s College London.