Nieuws

Nieuw taalalgoritme opent deur naar massaal nepnieuws

De Californische onderzoeksgroep OpenAI heeft een taalalgoritme gepresenteerd dat zulke levensechte tekst schrijft, dat nep nauwelijks nog van echt te onderscheiden is. Hun zelflerende algoritme GPT-2 kiest op basis van 40 GB aan tekst op 8 miljoen websites steeds een volgend woord.

In tegenstelling tot andere tekstalgoritmes is het uit 1,5 miljard parameters bestaande systeem volledig zelflerend en hoeft tekst niet eerst door mensen gelabeld te worden. Uit angst voor misbruik hebben de onderzoekers slechts een uitgeklede versie van hun tekstgenerator online gezet.

MIT Technology Review mocht het echte algoritme uitproberen en kreeg dit bloedstollende nieuwsbericht uit de krochten van het algoritme:

‘Russia has declared war on the United States after Donald Trump accidentally fired a missile in the air.

Russia said it had “identified the missile’s trajectory and will take necessary measures to ensure the security of the Russian population and the country’s strategic nuclear forces.” The White House said it was “extremely concerned by the Russian violation” of a treaty banning intermediate-range ballistic missiles.

The US and Russia have had an uneasy relationship since 2014, when Moscow annexed Ukraine’s Crimea region and backed separatists in eastern Ukraine.’

Het had daarvoor de eerste twaalf woorden van de tekst ingevoerd. De onderzoekers van OpenAI hadden hun algoritme in eerste instantie gemaakt voor vertalingen en het beantwoorden van vragen, maar ontdekten al snel dat het algoritme grote mogelijkheden voor misbruik biedt, zegt beleidsdirecteur Jack Clark tegen Technology Review: ‘Het is glashelder dat deze technologie na volwassenwording – en dat duurt nog één of twee jaar – gebruikt kan worden voor desinformatie en propaganda.’

OpenAI waarschuwt voor massale productie van slimmere spam, phishing, propaganda en identiteitsdiefstal binnen afzienbare tijd en roept overheden om capaciteit op te bouwen om dit gevaar nauwgezet te monitoren.

Hieronder nog een figment van GPT-2:

Deel deze pagina
Gratis proefabonnement TW

Bestel nu GRATIS 2 proefnummers TW

Ontvang de nieuwsbrief, binnenkort 2 keer per week!

Meld je nu aan!

Rijkswaterstaat Meet & Greet Projectmanagement

Op 30 september om 16 uur organiseert Rijkswaterstaat een meet & greet voor (toekomstige) projectmanagers die willen weten hoe het is om aan grote infrastructurele projecten te werken bij Rijkswaterstaat. Neem kennis van ons Integraal Projectmanagement Model (IPM) en  spreek informeel met projectmanagers onder genot van een hapje en drankje.  Kijk hier voor meer informatie

Vision & Robotics

Vision & Robotics is hét onafhankelijke vakblad voor machinebouwers, system integrators en eindgebruikers van productielijnen in de maak- en agro-/foodindustrie. 

Graag meer lezen over onderwerpen zoals robotica, sensoren, kunstmatige intellegentie en nog veel meer klik hier

Vision & Robotics heeft ook een nieuwsbrief! klik hier om je in te schrijven.

TW online gratis voor jongeren

TW Investeert in technisch onderwijs

Leerlingen tot 18 jaar lezen gratis TW. Meld je aan en ontvang 23 online edities per jaar geheel gratis!

Naar boven