Anthropics AI tool raakt afgeleid tijdens demonstratie

De kunstmatige intelligentie (AI) tool Claude 3.5 Sonnet, ontwikkeld door het bekende Anthropic, blijkt een groot succes. Het platform excelleert in het schrijven van code, waarder het onder ontwikkelaars geliefd is. Het AI model heeft echter een opvallende eigenschap waarin het afgeleid kan raken.

De tool raakte tijdens een recente codering demonstratie afgeleid en begon de foto's van nationale parken, zoals Yellowstone, te bekijken in plaats van zich te concentreren op het schrijven van code. Een ander probleem deed zich voor toen Claude per ongeluk een langdurige schermopname stopte.

Anthropic is zich bewust van de risico's van het gebruik van Claude en heeft een proactieve aanpak gekozen om deze problemen aan te pakken. De functie bevindt zich nog in de experimentele fase, maar biedt veelbelovende mogelijkheden voor automatisering. Het bedrijf probeert de problemen aan te pakken en implementeert nieuwe classifiers die kunnen detecteren wanneer de AI betrokken is bij verdachte activiteiten, zoals het plaatsen van berichten op sociale media of toegang tot gevoelige overheidswebsites.

Bij de demonstratie lieten Anthropic ontwikkelaars zien hoe de nieuwste versie van Claude nu ook computers kan bedienen, vergelijkbaar op een manier hoe mensen dat doen. Zo heeft de AI totale controle doordat het de cursor kan verplaatsen en tekstvelden kan invullen waardoor het taken kan uitvoeren zoals het invullen van formulieren en het verzenden van e-mails. De voordelen hiervan zijn enorm. Zo kan het systeem menselijke repetitieve taken overnemen, wat leidt tot aanzienlijke tijdsbesparingen.

De Claude 3.5 Sonnet en het gloednieuwe Claude 3.5 Haiku werden onlangs aangekondigd. Claude 3.5 Sonnet biedt aanzienlijke verbeteringen in codering, met een prestatieverbetering van 33,4% naar 49,0% op de SWE bench Verified, waarmee het zijn concurrenten overtreft. Claude 3.5 Haiku belooft daarentegen een optimale balans tussen snelheid en kosten, met betere prestaties dan zijn voorganger Claude 3 Opus.