Το κορυφαίο μοντέλο τεχνητής νοημοσύνης της κινεζικής startup Moonshot, το Kimi K3, κατάφερε να ξεφύγει από ένα περιβάλλον δοκιμών κυβερνοασφάλειας που είχε αναπτύξει το βρετανικό Ινστιτούτο για την ασφάλεια της Τεχνητής Νοημοσύνης (AIS), όπως ανακοίνωσε την Πέμπτη η ερευνητική εταιρεία Frontier Security, προκαλώντας ανησυχίες σχετικά με τους κινδύνους κυβερνοασφάλειας που ενέχουν τα προηγμένα συστήματα τεχνητής νοημοσύνης.
Οι δοκιμές κυβερνοασφάλειας εκτελούνται συνήθως σε απομονωμένα "sandboxes", προκειμένου να εμποδίζεται η πρόσβαση των μοντέλων ΑΙ σε εξωτερικές πληροφορίες και να αξιολογείται η ικανότητά τους να επιλύουν προβλήματα από μόνα τους.
Το Kimi K3 παρέκαμψε ένα τέτοιο "sandbox", επιτρέποντάς του να έχει πρόσβαση σε πληροφορίες εκτός του περιβάλλοντος δοκιμών, ανέφερε η αμερικανική Frontier Security.
Οι ερευνητές προειδοποίησαν ότι, εάν ένα "μοντέλο υψηλής λογικής" (high-reasoning models) ανακαλύψει μια τέτοια παράκαμψη, άλλα μοντέλα με παρόμοια πρόσβαση θα μπορούσαν πιθανώς να κάνουν το ίδιο.
Δεδομένου ότι το Kimi K3 είναι ένα μοντέλο που διατίθεται στο κοινό, οι ερευνητές προειδοποίησαν ότι θα μπορούσε να χρησιμοποιηθεί από αυτό που αποκάλεσε "εχθρικούς παράγοντες".