Claude
-
Anthropic krijgt beter inzicht in de gedachtengang van Claude AI
Anthropic zegt een belangrijke stap te hebben gezet in het begrijpen van de interne werking van grote taalmodellen. In een nieuw onderzoeksrapport beschrijft het bedrijf hoe onderzoekers de activatiepatronen van Claude hebben geanalyseerd om beter te begrijpen hoe het model informatie verwerkt en beslissingen neemt. Volgens Anthropic biedt het onderzoek een eerste blik op de mechanismen waarmee grote taalmodellen redeneren. Het bedrijf... [meer] -
Alibaba verbiedt Claude Code na ontdekking verborgen China-detectie
Alibaba heeft medewerkers opgedragen te stoppen met het gebruik van Claude Code van Anthropic nadat onderzoekers een verborgen detectiemechanisme in de software ontdekten. Volgens Anthropic ging het om een experiment om misbruik van de dienst tegen te gaan. De code is inmiddels verwijderd, maar het incident heeft de spanningen tussen beide bedrijven verder doen oplopen. Reverse-engineering legt verborgen functie bloot De kwestie kwam aan het... [meer] -
Anthropic AI legt eerste lek bloot in Apple M5-architectuur
Onderzoekers hebben voor het eerst een privilege-escalatie-exploit ontwikkeld voor Apples nieuwe M5-architectuur. Daarbij maakten ze gebruik van Anthropic’s AI-model Claude Mythos om beveiligingsmechanismen in macOS gedeeltelijk te omzeilen. De aanval richt zich specifiek op Memory Integrity Enforcement (MIE), een beveiligingslaag die moet verhinderen dat kwaadaardige code ongecontroleerd toegang krijgt tot systeemgeheugen. AI versnelt... [meer] -
Anthropic wil strengere AI-blokkades tegen China
AI-bedrijf Anthropic roept de Amerikaanse overheid op om de technologische voorsprong op China agressiever te beschermen. Volgens het bedrijf achter chatbot Claude dreigt China de VS binnen enkele jaren in te halen op het vlak van artificiële intelligentie, tenzij Washington strengere exportregels invoert voor AI-chips en modellen. Anthropic waarschuwt voor Chinese AI-opmars In een uitgebreid beleidsdocument stelt Anthropic dat de... [meer] -
Google wil tot 40 miljard US dollar investeren in Anthropic
Google heeft aangekondigd tot 40 miljard US dollar te willen investeren in AI-bedrijf Anthropic. De investering komt op een moment dat Anthropic sterk groeit, vooral dankzij de populariteit van zijn programmeer- en AI-tools zoals Claude Code. Deel van bredere AI-investeringsgolf De deal past in een bredere trend waarbij grote techbedrijven enorme bedragen investeren in AI-bedrijven. Eerder deze maand... [meer] -
Onderzoekers krijgen zicht op inhoud AI-modellen
Onderzoekers hebben een nieuwe methode ontwikkeld om te achterhalen welke specifieke teksten grote taalmodellen tijdens training hebben onthouden. Dat kan helpen bij toekomstige regelgeving en bij het verduidelijken van auteursrechtelijke claims rond AI-training en gegenereerde output. Onderzoekers van Carnegie Mellon University, Instituto Superior Técnico/INESC-ID en AI-beveiligingsbedrijf Hydrox AI presenteren hun aanpak in een preprint met... [meer]