Ασφάλεια πρακτορικής ΤΝ και ταυτότητα πρακτόρων ΤΝ
Πράκτορες ΤΝ που κατέχουν μόνο την πρόσβαση που χρειάζονται, μόνο για όσο τη χρειάζονται
Πράκτορες με κλειδιά για τα πάντα
Οι πράκτορες ΤΝ διαβάζουν πλέον έγγραφα, καλούν API και μετακινούν δεδομένα μόνοι τους. Κάθε ένας είναι μη ανθρώπινη ταυτότητα (NHI): λογαριασμός, κλειδί ή διακριτικό που χρησιμοποιεί λογισμικό αντί για άνθρωπο. Συχνά δίνονται στους πράκτορες μακρόβια κλειδιά με ευρέα δικαιώματα και κανείς δεν ελέγχει τι κάνουν με αυτά.
Οι επιτιθέμενοι το πρόσεξαν. Ένα επιμελημένο έγγραφο μπορεί να καθοδηγήσει έναν πράκτορα να διαρρεύσει δεδομένα (έγχυση προτροπής), μια δηλητηριασμένη περιγραφή εργαλείου μπορεί να τον ανακατευθύνει (δηλητηρίαση εργαλείου) και ένα κλεμμένο κλειδί μπορεί να συσσωρεύσει λογαριασμό στα μοντέλα σας (LLMjacking).
Τι αλλάζει για εσάς
Χωρίς μόνιμα προνόμια
Οι πράκτορες λαμβάνουν βραχύβια διαπιστευτήρια για κάθε εργασία και δεν κατέχουν πρόσβαση στο διάστημα μεταξύ τους.
Επιθέσεις εντοπισμένες πριν τις βρουν οι επιτιθέμενοι
Οι πράκτορες και τα μοντέλα σας δέχονται σκόπιμες επιθέσεις, με ελεγχόμενο τρόπο, και οι αδυναμίες διορθώνονται.
Δεδομένα που μένουν μέσα
Ευαίσθητα δεδομένα δεν μπορούν να διαρρεύσουν μέσω των απαντήσεων ενός μοντέλου, των αρχείων καταγραφής του ή ενός κλεμμένου κλειδιού.
Τι παραδίδουμε
Ταυτότητα πράκτορα ΤΝ
Κάθε πράκτορας αποκτά δική του ταυτότητα, υπεύθυνο και σκοπό, διαχειριζόμενα στη διαχείριση ταυτότητας και πρόσβασης (IAM) όπως κάθε άλλος λογαριασμός, με καταγραφή κάθε ενέργειας.
Δυναμικά διαπιστευτήρια άμεσης χρήσης
Διαπιστευτήρια που εκδίδονται για μία εργασία και λήγουν όταν αυτή τελειώσει, ώστε ένα διαρρεύσαν διακριτικό να αξίζει λίγο και κανένας πράκτορας να μην κατέχει πρόσβαση που δεν χρησιμοποιεί.
Κόκκινη ομάδα ΤΝ
Ελεγχόμενες επιθέσεις στα μοντέλα και τους πράκτορές σας, περιλαμβανομένων παραβιάσεων περιορισμών, έγχυσης προτροπής και δηλητηρίασης εργαλείων, με κάθε εύρημα να αναπαράγεται, να ιεραρχείται και να επανελέγχεται μετά τη διόρθωση.
Τείχη προστασίας έγχυσης προτροπής και δηλητηρίασης εργαλείων
Φραγμοί ασφαλείας μεταξύ πρακτόρων, εισόδων και εργαλείων που εντοπίζουν και ανακόπτουν οδηγίες κρυμμένες σε έγγραφα, ιστοσελίδες και περιγραφές εργαλείων.
Αποτροπή διαρροής δεδομένων από LLM
Έλεγχοι που εμποδίζουν προσωπικά και εμπιστευτικά δεδομένα να βγουν μέσω προτροπών, απαντήσεων ή αρχείων καταγραφής, τόσο για κυρίαρχα όσο και για φιλοξενούμενα μοντέλα.
Άμυνα κατά LLMjacking
Κλειδιά μοντέλων σε θησαυροφυλάκιο, όρια χρήσης και ειδοποιήσεις για ασυνήθιστη κατανάλωση, ώστε ένα κλεμμένο κλειδί να εντοπίζεται πριν σας κοστίσει.
Έλεγχοι εφοδιαστικής αλυσίδας μοντέλων
Έλεγχοι από πού προέρχονται τα μοντέλα, τα βάρη, τα σύνολα δεδομένων και τα εργαλεία πρακτόρων σας, και αν έχει αλλοιωθεί κάτι.
Πώς εκτελείται η εργασία
Καταγραφή των πρακτόρων
Εντοπίζουμε κάθε πράκτορα, μοντέλο και εργαλείο σε χρήση, τις ταυτότητες που κατέχουν και τα δεδομένα στα οποία έχουν πρόσβαση.
Μοντελοποίηση των απειλών
Για κάθε πράκτορα προσδιορίζουμε τι θα στόχευε ένας επιτιθέμενος και πώς, από τις εισόδους έως τα εργαλεία του.
Κόκκινη ομάδα
Επιτιθέμεθα στους πράκτορες και τα μοντέλα εντός συμφωνημένων κανόνων και καταγράφουμε κάθε εύρημα ώστε να αναπαράγεται.
Ενίσχυση
Εισάγουμε ταυτότητες πρακτόρων, διαπιστευτήρια άμεσης χρήσης, φραγμούς ασφαλείας και ελέγχους διαρροής, ξεκινώντας από τους υψηλότερους κινδύνους.
Επανέλεγχος και παρακολούθηση
Επανελέγχουμε κάθε διόρθωση και ρυθμίζουμε παρακολούθηση της συμπεριφοράς πρακτόρων και της χρήσης μοντέλων.
Αποδείξεις σε παραγωγή
Κατασκευάζουμε τα συστήματα πολλών πρακτόρων που ασφαλίζουμε. Σε εποπτευόμενο χρηματοοικονομικό ίδρυμα, οι πράκτορές μας λειτουργούν με ανθρώπινη επίβλεψη και ανάκτηση με επίγνωση δικαιωμάτων, ώστε καθένας να βλέπει μόνο τα έγγραφα που επιτρέπεται να δει ο χρήστης του.
Πρότυπα και εργαλεία
- ΤΝ και μηχανική μάθηση
- Jais
- Mistral
- Ασφάλεια και κρυπτογραφία
- HashiCorp Vault
- Πρότυπα και κανονισμοί
- EU AI Act
- GDPR
- MENA PDPL
Πώς να ξεκινήσετε
Τι ακολουθεί
Προκαταρκτική συνεδρία
Μια δωρεάν διαδικτυακή συνεδρία προ-συμβουλευτικής 30 λεπτών: εξετάζουμε τους στόχους, τα συστήματα και τους περιορισμούς σας.
Αξιολόγηση ετοιμότητας
Σε μια δωρεάν αξιολόγηση ετοιμότητας 48 ωρών, Κύριος Αρχιτέκτονας ελέγχει το έργο σας έναντι του εξαπλού ορισμού ετοιμότητας και προτείνει τη διαδρομή που ταιριάζει.
Επιλογή διαδρομής
Τα έργα με έτοιμο πεδίο λαμβάνουν δεσμευτική πρόταση εντός 3–5 εργάσιμων ημερών. Τα έργα σε στάδιο σύλληψης ξεκινούν στο Blueprint Studio. Ένα σύστημα σε λειτουργία που αστοχεί, είναι ατεκμηρίωτο ή χρειάζεται ολοκλήρωση ξεκινά με διάγνωση 1–2 εβδομάδες. Το Blueprint Studio και η διάγνωση έχουν καθένα σταθερή αμοιβή, που αναφέρεται στην πρόταση.
Παράδοση σε πέντε στάδια
Κινητοποίηση, sprints με ζωντανές επιδείξεις, ολοκλήρωση και σκλήρυνση, αποδοχή και έναρξη λειτουργίας, και έπειτα διαχειριζόμενες υπηρεσίες. Μετά την κυκλοφορία ακολουθεί περίοδος εγγύησης και έπειτα προαιρετική υποστήριξη και συντήρηση.
Ενσωματωμένοι ειδικοί και στρατηγική ενίσχυση
Κύριοι μηχανικοί και ειδικοί σε γειτονικές περιοχές και επί τόπου, και ενσωματωμένοι αρχιτέκτονες λύσεων, μετασχηματισμού, PQC και ολοκληρώσεων.
Ομάδες προϊόντος με ΤΝ στη βάση
Διαχειριζόμενα, διεπιστημονικά pods έμπειρων μηχανικών, εξοπλισμένα με περιβάλλοντα κωδικοποίησης με πράκτορες και QA.
Ο γρηγορότερος τρόπος εισόδου είναι το πακέτο Έλεγχος μετα-κβαντικής ασφάλειας (CBOM) και ασφάλειας πρακτόρων, ένα από τα πακέτα ταχείας συνεργασίας μας.
Από πού να ξεκινήσετεΕρωτήσεις και απαντήσεις
Τι είναι μια μη ανθρώπινη ταυτότητα και γιατί μετρά στην ΤΝ;
Μη ανθρώπινη ταυτότητα είναι κάθε λογαριασμός, κλειδί ή διακριτικό που χρησιμοποιεί λογισμικό αντί για άνθρωπο: λογαριασμοί υπηρεσιών, κλειδιά API και πλέον πράκτορες ΤΝ. Δημιουργούνται εύκολα, ξεχνιούνται εύκολα και πολλά δεν λήγουν ποτέ. Ένας πράκτορας ΤΝ που ενεργεί μόνος με τέτοιο κλειδί μπορεί να προκαλέσει μεγάλη ζημιά αν παραπλανηθεί ή αν κλαπεί το κλειδί.
Τι είναι η έγχυση προτροπής;
Επίθεση που κρύβει οδηγίες σε περιεχόμενο που διαβάζει μοντέλο ΤΝ, όπως email, έγγραφο ή ιστοσελίδα, ώστε το μοντέλο να ακολουθήσει τον επιτιθέμενο αντί για τον χρήστη του. Δεν αποτρέπεται από το μοντέλο μόνο. Η άμυνα συνδυάζει φραγμούς ασφαλείας σε εισόδους και εξόδους, πράκτορες με περιορισμένη πρόσβαση και ανθρώπινη έγκριση για ευαίσθητες ενέργειες.
Πώς λειτουργούν τα διαπιστευτήρια άμεσης χρήσης για πράκτορες;
Αντί για μόνιμο κλειδί, ο πράκτορας ζητά πρόσβαση όταν ξεκινά μια εργασία. Λαμβάνει διαπιστευτήριο περιορισμένο σε αυτή την εργασία και εκείνον τον χρόνο, και το διαπιστευτήριο λήγει όταν τελειώσει η εργασία. Κάθε αίτημα καταγράφεται, ώστε να βλέπετε ποιος πράκτορας έκανε τι και για λογαριασμό ποιου.
Τι περιλαμβάνει μια άσκηση κόκκινης ομάδας ΤΝ;
Συμφωνούμε το πεδίο και τους κανόνες και έπειτα επιτιθέμεθα στα μοντέλα και τους πράκτορές σας όπως θα το έκανε ένας αντίπαλος: παραβιάσεις περιορισμών, έγχυση προτροπής, δηλητηρίαση εργαλείων και απόπειρες εξαγωγής δεδομένων. Λαμβάνετε κάθε εύρημα με τα βήματα αναπαραγωγής, ιεραρχημένο κατά κίνδυνο, και επανελέγχουμε μετά τις διορθώσεις.
Μπορείτε να ασφαλίσετε πράκτορες και μοντέλα που δεν κατασκευάσαμε μαζί σας;
Ναι. Ταυτότητα, διαπιστευτήρια, φραγμοί ασφαλείας και παρακολούθηση τοποθετούνται γύρω από τον πράκτορα, οπότε λειτουργούν με πράκτορες κατασκευασμένους εσωτερικά, από άλλον προμηθευτή ή σε πλατφόρμα τρίτου. Χρειαζόμαστε πρόσβαση στη ρύθμιση του πράκτορα και στις συνδέσεις του, όχι απαραίτητα στον κώδικά του.
Χρησιμοποιούμε φιλοξενούμενο μοντέλο μεγάλου παρόχου. Είναι ασφαλή τα δεδομένα μας;
Εξαρτάται από τους όρους του παρόχου, την περιοχή στην οποία λειτουργεί και το τι του στέλνετε. Εξετάζουμε και τα τρία, προσθέτουμε ελέγχους διαρροής μπροστά από το μοντέλο και, όπου τα δεδομένα δεν επιτρέπεται να φύγουν από τη δικαιοδοσία σας, συνιστούμε κυρίαρχο ή ιδιωτικό μοντέλο.
Έτοιμοι για κατασκευή; Ζητήστε πρόταση.
Στείλτε τις απαιτήσεις ή το RFP σας. Οι αρχιτέκτονές μας τις επαληθεύουν και επιστρέφουν δεσμευτική πρόταση σταθερού εύρους.
Τι ακολουθεί
Αξιολόγηση ετοιμότητας
Σε μια δωρεάν αξιολόγηση ετοιμότητας 48 ωρών, Κύριος Αρχιτέκτονας ελέγχει το έργο σας έναντι του εξαπλού ορισμού ετοιμότητας και προτείνει τη διαδρομή που ταιριάζει.
Δεσμευτική πρόταση
Μετά από επικύρωση αρχιτεκτονικής χωρίς κόστος, λαμβάνετε δεσμευτική πρόταση σταθερού πεδίου εντός 3–5 εργάσιμων ημερών: ορόσημα, αρχιτεκτονική, δομή ομάδας και SLA. Υπογράφουμε συμφωνητικό εμπιστευτικότητας (NDA) μαζί σας κατόπιν αιτήματος, πριν μοιραστείτε τις απαιτήσεις σας.
Κινητοποίηση
Μόλις υπογράψετε, οι ομάδες μηχανικής μας ξεκινούν το Sprint 0 εντός 5–10 εργάσιμων ημερών από την υπογραφή της σύμβασης.
Παράδοση σε πέντε στάδια
Κινητοποίηση, sprints με ζωντανές επιδείξεις, ολοκλήρωση και σκλήρυνση, αποδοχή και έναρξη λειτουργίας, και έπειτα διαχειριζόμενες υπηρεσίες. Μετά την κυκλοφορία ακολουθεί περίοδος εγγύησης και έπειτα προαιρετική υποστήριξη και συντήρηση.