गोपनीयता और सुरक्षा के लिए AI टूल का मूल्यांकन कैसे करें

संक्षेप में एआई उपकरण सुरक्षित या असुरक्षित नहीं है। जोखिम सटीक उपयोग के मामले, खाता प्रकार, योजना, दर्ज किए गए डेटा, मॉडल मार्ग, एकीकरण, अनुमतियाँ, स्थान, प्रतिधारण, अनुबंध और आउटपुट से लिए गए निर्णयों पर निर्भर करता है। वही उत्पाद सार्वजनिक विपणन ड्राफ्ट के लिए उचित हो सकता है और रोगी रिकॉर्ड, अप्रकाशित वित्तीय परिणाम, उत्पादन क्रेडेंशियल या रोजगार निर्णयों के लिए अस्वीकार्य हो सकता है।

यह मार्गदर्शिका सहायकों, जेनरेटर, कोडिंग टूल, मीटिंग रिकॉर्डर, एजेंटों, अनुसंधान उत्पादों और डेटा-विश्लेषण प्लेटफार्मों को अपनाने वाली टीमों के लिए एक व्यावहारिक विक्रेता-समीक्षा प्रक्रिया प्रदान करती है। यह कानूनी सलाह नहीं है और यह योग्य गोपनीयता, सुरक्षा, खरीद, रोजगार, चिकित्सा, वित्तीय या नियामक समीक्षा को प्रतिस्थापित नहीं करता है। लागू दायित्व क्षेत्राधिकार, क्षेत्र, डेटा और उपयोग के अनुसार भिन्न-भिन्न होते हैं।

लक्ष्य सबसे अधिक सुरक्षा बैज एकत्र करना नहीं है। इसका उद्देश्य साक्ष्य-समर्थित निर्णय लेना है: क्या उपयोग किया जा सकता है, किसके द्वारा, किस डेटा के साथ, किस नियंत्रण के तहत, कितने समय तक, और जब उपकरण बदलता है या कोई घटना घटती है तो क्या होना चाहिए।

उपयोग के मामले से शुरू करें, विक्रेता प्रश्नावली से नहीं

विपणन दावों को पढ़ने से पहले एक पृष्ठ का उपयोग-मामला रिकॉर्ड लिखें। व्यवसाय के स्वामी, उपयोगकर्ताओं, प्रभावित लोगों, इच्छित कार्य, इनपुट डेटा, कनेक्टेड सिस्टम, उत्पन्न आउटपुट, मानव समीक्षक, डाउनस्ट्रीम निर्णय, अपेक्षित मात्रा और विफलता के परिणाम की पहचान करें।

उच्चतम जोखिम वाले डेटा को वर्गीकृत करें जो वर्कफ़्लो में प्रवेश कर सकता है, न कि केवल डेमो में दिखाए गए नमूने को। व्यक्तिगत डेटा, स्वास्थ्य और बायोमेट्रिक जानकारी, बच्चों का डेटा, वित्तीय रिकॉर्ड, कानूनी सामग्री, ग्राहक गोपनीय जानकारी, कर्मचारी संचार, स्रोत कोड, रहस्य, अप्रकाशित रणनीति, लाइसेंस प्राप्त सामग्री, अनुसंधान डेटा और निवास या अनुबंध संबंधी प्रतिबंधों के अधीन डेटा पर विचार करें।

फिर अनुमोदन सीमा परिभाषित करें. किसी उत्पाद को सार्वजनिक-स्रोत अनुसंधान के लिए अनुमोदित किया जा सकता है लेकिन अप्रकाशित ग्राहक कार्य से प्रतिबंधित किया जा सकता है। एक पृथक भंडार के लिए कोडिंग सहायक की अनुमति दी जा सकती है लेकिन भुगतान परिवेश के लिए नहीं। एक मीटिंग सहायक को नोटिस के बाद आंतरिक परियोजना कॉल के लिए अनुमति दी जा सकती है लेकिन उसे नैदानिक, मानव संसाधन, कानूनी या बोर्ड बैठकों से रोका जा सकता है।

एनआईएसटी का एआई जोखिम प्रबंधन ढांचा शासन, मानचित्र, माप और प्रबंधन के आसपास चल रहे काम का आयोजन करता है। वह फ़्रेमिंग एकल पास/असफल चेकलिस्ट से अधिक उपयोगी है क्योंकि तैनाती और उपयोग के दौरान जोखिम बदलता रहता है।

वास्तविक डेटा प्रवाह को मैप करें

हर उस सिस्टम का चित्र बनाएं जो जानकारी प्राप्त या प्राप्त कर सकता है:

• ब्राउज़र, डेस्कटॉप, मोबाइल, एक्सटेंशन, ऐड-इन, बॉट, एपीआई, सीएलआई, एमसीपी सर्वर, या स्लैक क्लाइंट;
• खाता प्रोफ़ाइल, संकेत, अपलोड की गई फ़ाइलें, स्रोत रिपॉजिटरी, मीटिंग ऑडियो, छवियां, डेटाबेस स्कीमा और क्रेडेंशियल;
• पुनर्प्राप्ति सूचकांक, एम्बेडिंग, अस्थायी प्रसंस्करण, उत्पाद भंडारण, कैश, लॉग, विश्लेषण, फीडबैक, दुरुपयोग निगरानी और समर्थन प्रणाली;
• प्रथम-पक्ष मॉडल, तृतीय-पक्ष मॉडल प्रदाता, ओसीआर या ट्रांसक्रिप्शन प्रदाता, खोज सेवाएँ, क्लाउड इंफ्रास्ट्रक्चर और अन्य उपप्रोसेसर;
• उत्पन्न आउटपुट, निर्यात, साझा लिंक, सार्वजनिक पेज, वेबहुक, कनेक्टेड एप्लिकेशन, शेड्यूल की गई रिपोर्ट, बैकअप और हटाए गए आइटम स्टोर।

"विक्रेता एन्क्रिप्शन का उपयोग करता है" पर मत रुकें। पूछें कि कौन सी सेवा प्रत्येक डेटा वर्ग को किस उद्देश्य से, किस खाते और समझौते के तहत प्राप्त करती है, और प्रत्येक प्रति कितने समय तक रहती है। बिना प्रशिक्षण का वादा एक उद्देश्य प्रश्न का उत्तर देता है; यह भंडारण, लॉगिंग, मानव समीक्षा, कानूनी प्रकटीकरण, विश्लेषण, बैकअप, या विलोपन का उत्तर नहीं देता है।

सभी सतहों का अलग-अलग परीक्षण करें। एक उपभोक्ता वेब खाता, एंटरप्राइज वर्कस्पेस, एपीआई, कस्टम जीपीटी, ब्राउज़र एक्सटेंशन, मोबाइल ऐप और कनेक्टेड थर्ड-पार्टी इंटीग्रेशन में एक ही ब्रांड होने पर भी अलग-अलग प्रदाता, सेटिंग्स, रिटेंशन और शर्तें हो सकती हैं।

नियंत्रण खाते, योजना और समझौते को सत्यापित करें

पहचानें कि खाते का मालिक कौन है और कौन सी कानूनी इकाई सेवा प्रदान करती है। योजना का नाम, बिलिंग मार्ग, क्षेत्र, किरायेदार, प्रशासक, स्वीकृत शर्तें, ऑर्डर फॉर्म, डेटा-प्रोसेसिंग परिशिष्ट, सुरक्षा प्रदर्शन, सेवा-स्तरीय समझौता, व्यवसाय-सहयोगी समझौता जहां प्रासंगिक हो, और किसी भी बातचीत के संशोधन को रिकॉर्ड करें।

योजना-विशिष्ट दावे मायने रखते हैं। "एंटरप्राइज़ डेटा का उपयोग डिफ़ॉल्ट रूप से प्रशिक्षण के लिए नहीं किया जाता है" एक निःशुल्क खाते के लिए समान व्यवहार साबित नहीं होता है। एक सामान्य सुरक्षा पृष्ठ किसी उत्पाद सहायता लेख या पुरानी गोपनीयता नीति के साथ विरोध कर सकता है। विक्रेता से भौतिक विसंगतियों को लिखित रूप में हल करने और निर्णय रिकॉर्ड के साथ प्रतिक्रिया संलग्न करने के लिए कहें।

यदि अनुबंध कुछ अलग कहता है तो विक्रेता के संदेश पर भरोसा न करें। एक साक्ष्य पदानुक्रम स्थापित करें: हस्ताक्षरित समझौता और आदेश प्रपत्र, वर्तमान योजना-विशिष्ट शर्तें, वर्तमान आधिकारिक सुरक्षा और गोपनीयता दस्तावेज़, आधिकारिक सहायता सामग्री, फिर विपणन पृष्ठ। तृतीय-पक्ष समीक्षाएँ और खोज स्निपेट लीड हैं, न कि साक्ष्य को नियंत्रित करना।

नवीनीकरण और डाउनग्रेड व्यवहार को सत्यापित करें। परीक्षण समाप्त होने या कार्यक्षेत्र में योजना बदलने पर एंटरप्राइज़ गोपनीयता, प्रतिधारण, एसएसओ, ऑडिट या क्षेत्र नियंत्रण गायब हो सकते हैं।

डेटा उद्देश्य से गोपनीयता प्रश्न पूछें

ऐसी तालिका का उपयोग करें जो प्रश्नों को अलग करती है विक्रेता अक्सर विफल हो जाते हैं:

| प्रश्न | अनुरोध करने के लिए साक्ष्य | सामान्य गलती | | --- | --- | --- | | कौन सा डेटा एकत्र किया जाता है? | प्रॉम्प्ट, फ़ाइलें, आउटपुट, मेटाडेटा, एनालिटिक्स, फीडबैक और एकीकरण को कवर करने वाली फ़ील्ड और इवेंट इन्वेंट्री | केवल अपलोड की गई सामग्री की समीक्षा करना | | प्रत्येक डेटा प्रकार को संसाधित क्यों किया जाता है? | सेवा वितरण, सुरक्षा, विश्लेषण, सुधार, प्रशिक्षण, समर्थन और कानूनी अनुपालन के लिए उद्देश्य तालिका | "सेवाओं में सुधार" को एक सटीक उद्देश्य के रूप में मानना ​​| | क्या डेटा का उपयोग मॉडलों को प्रशिक्षित करने के लिए किया जाता है? | योजना-विशिष्ट प्रथम-पक्ष और तृतीय-पक्ष प्रशिक्षण शर्तें, चूक, ऑप्ट-आउट व्यवहार और प्रभावी तिथि | यह मानते हुए कि प्रशिक्षण न होने का अर्थ भंडारण न होना है | | कौन से प्रदाता सामग्री प्राप्त करते हैं? | सेवा, स्थान और नोटिस प्रक्रिया के साथ वर्तमान उपप्रोसेसर और मॉडल-प्रदाता सूची | केवल अनुबंधित विक्रेता की समीक्षा करना | | प्रत्येक प्रति कितने समय तक रखी जाती है? | संकेतों, फ़ाइलों, आउटपुट, लॉग्स, फीडबैक, समर्थन, एम्बेडिंग, बैकअप और प्रदाता डेटा के लिए शेड्यूल | प्रत्येक दुकान के लिए एक प्रतिधारण संख्या स्वीकार करना | | डेटा कैसे डिलीट किया जाता है? | उपयोगकर्ता, व्यवस्थापक, एपीआई, खाता, बैकअप, प्रदाता, और अनुबंध-समाप्ति हटाने की प्रक्रिया | यह मानते हुए कि किसी चैट को हटाने से सभी व्युत्पन्न डेटा नष्ट हो जाता है | | डेटा कहाँ संसाधित किया जाता है? | भंडारण और प्रसंस्करण क्षेत्र, स्थानांतरण तंत्र, दूरस्थ समर्थन और प्रदाता स्थान | सभी प्रसंस्करण के साथ भंडारण क्षेत्र को भ्रमित करना | | उपयोगकर्ता किन अधिकारों का प्रयोग कर सकते हैं? | पहुंच, सुधार, विलोपन, आपत्ति, प्रतिबंध, पोर्टेबिलिटी, और संपर्क प्रक्रिया जहां लागू हो | यह मानते हुए कि विक्रेता ग्राहक के नोटिस को स्वचालित रूप से संभालता है |

NIST गोपनीयता फ्रेमवर्क गोपनीयता जोखिम को साइबर सुरक्षा जोखिम से अलग करता है और पहचान, शासन, नियंत्रण, संचार और सुरक्षा परिणामों का उपयोग करता है। अत्यधिक संग्रह, अप्रत्याशित उपयोग, गलत अनुमान, या अपारदर्शी निर्णय लेने के माध्यम से गोपनीयता को नुकसान पहुंचाते हुए भी एक प्रणाली को घुसपैठ के खिलाफ अच्छी तरह से सुरक्षित किया जा सकता है।

अलग प्रशिक्षण, अनुमान, लॉगिंग और फीडबैक

"हम आपके डेटा पर प्रशिक्षण नहीं लेते" के कई अलग-अलग अर्थ हो सकते हैं। निर्धारित करें कि क्या इसमें विक्रेता के स्वयं के आधार मॉडल, उत्पाद-विशिष्ट मॉडल, तृतीय-पक्ष प्रदाता, फाइन-ट्यूनिंग, मूल्यांकन, मानव समीक्षा, दुरुपयोग निगरानी, ​​पुनर्प्राप्ति सूचकांक और विश्लेषण शामिल हैं। जांचें कि क्या सुरक्षा एक डिफ़ॉल्ट, एक सेटिंग, एक ऑप्ट-आउट या केवल एक एंटरप्राइज़ अनुबंध अवधि है।

किसी मॉडल या प्रसंस्करण सेवा तक पहुंचने के लिए अनुमान को अभी भी सामग्री की आवश्यकता होती है। एक प्रदाता शून्य प्रतिधारण के तहत काम कर सकता है, दुरुपयोग की निगरानी के लिए डेटा को अस्थायी रूप से बनाए रख सकता है, या इसे एक अलग एपीआई समझौते के तहत रख सकता है। व्यवस्थापक-सक्षम प्रीमियम मॉडल डिफ़ॉल्ट मॉडल से दूसरे मार्ग का उपयोग कर सकता है।

फीडबैक अक्सर नियम बदल देता है। थम्स-डाउन, समर्थन टिकट, साझा वार्तालाप, या डायग्नोस्टिक लॉग सबमिट करने से समीक्षा के लिए प्रॉम्प्ट, फ़ाइल, आउटपुट और आसपास के संदर्भ के संग्रह को अधिकृत किया जा सकता है। उपयोगकर्ताओं के लिए इसका दस्तावेजीकरण करें और जोखिम की आवश्यकता होने पर वैकल्पिक फीडबैक साझाकरण अक्षम करें।

कभी भी "प्रशिक्षण के लिए उपयोग नहीं किया गया" को "संग्रहीत नहीं किया गया", "निजी", "देखा नहीं गया" या "तीसरे पक्ष को नहीं भेजा गया" के रूप में दोबारा न लिखें। प्रत्येक कथन के लिए अलग-अलग साक्ष्य की आवश्यकता होती है।

पहुंच, पहचान और किरायेदार नियंत्रण की समीक्षा करें

टीम के उपयोग के लिए, फीचर सूची स्वीकार करने के बजाय पहचान का परीक्षण करें। एसएसओ प्रोटोकॉल, मल्टीफैक्टर प्रमाणीकरण, डोमेन कैप्चर, जस्ट-इन-टाइम प्रावधान, एससीआईएम, भूमिका डिजाइन, अतिथि प्रतिबंध, सत्र अवधि, डिवाइस या नेटवर्क नीति, सेवा खाते, एपीआई कुंजी, ओएथ स्कोप और आपातकालीन प्रशासक पहुंच की पुष्टि करें।

कम से कम विशेषाधिकार का प्रयोग करें. एक शोध एजेंट को उत्पादन डेटाबेस तक लेखन पहुंच की आवश्यकता नहीं है। एक कोडिंग सहायक को क्लाउड रहस्य प्राप्त नहीं करना चाहिए क्योंकि वह एक रिपॉजिटरी को पढ़ सकता है। मीटिंग बॉट को प्रत्येक कैलेंडर ईवेंट की आवश्यकता नहीं होती है। एक स्प्रेडशीट संवर्धन कार्य को सभी जुड़े हुए ग्राहक रिकॉर्ड तक पहुंच प्राप्त नहीं होनी चाहिए।

किरायेदार सीमाओं और साझाकरण डिफ़ॉल्ट की समीक्षा करें। सार्वजनिक-लिंक निर्माण, खोज अनुक्रमण, कार्यक्षेत्र-व्यापी खोज, निर्यात, दोहराव, बाहरी अतिथि, स्वामित्व हस्तांतरण, निरसन, कैश्ड प्रतियां और कर्मचारी ऑफबोर्डिंग का परीक्षण करें। पुष्टि करें कि क्या कोई व्यवस्थापक उपयोगकर्ता वार्तालापों का निरीक्षण, निर्यात, बनाए रख सकता है और हटा सकता है।

ऑडिट लॉग में उपयोगी ईवेंट शामिल होने चाहिए: साइन-इन, व्यवस्थापक परिवर्तन, एकीकरण प्राधिकरण, डेटा निर्यात, सार्वजनिक साझाकरण, एपीआई कुंजी कार्रवाई, भूमिका परिवर्तन, विलोपन, एजेंट निष्पादन और संवेदनशील कनेक्टर गतिविधि। प्रतिधारण, निर्यात प्रारूप, चेतावनी, और लॉग के साथ कौन छेड़छाड़ कर सकता है, सत्यापित करें।

एजेंटों और जुड़े उपकरणों को विशेषाधिकार प्राप्त सॉफ़्टवेयर मानें

एक सहायक जो केवल पाठ का मसौदा तैयार करता है, उसकी कार्य सतह उस एजेंट की तुलना में छोटी होती है जो ईमेल पढ़ता है, गोदाम से पूछताछ करता है, कोड संपादित करता है, खाते बनाता है, साइट प्रकाशित करता है, संदेश भेजता है, या धन स्थानांतरित करता है। प्रत्येक उपकरण, क्रेडेंशियल, स्कीमा, कार्रवाई, अनुमोदन चरण, नेटवर्क गंतव्य और आउटपुट चैनल की सूची।

OWASP का एलएलएम और जेनरेटिव-एआई अनुप्रयोगों के लिए शीर्ष 10 त्वरित इंजेक्शन, संवेदनशील-सूचना प्रकटीकरण, आपूर्ति-श्रृंखला जोखिम, अनुचित आउटपुट हैंडलिंग, अत्यधिक एजेंसी और अन्य एप्लिकेशन-स्तरीय विफलताओं पर प्रकाश डालता है। एक दुर्भावनापूर्ण निर्देश वेबपेज, ईमेल, पीडीएफ, कोड टिप्पणी, डेटाबेस पंक्ति, कैलेंडर ईवेंट, या पुनर्प्राप्त दस्तावेज़ के माध्यम से आ सकता है - न कि केवल उपयोगकर्ता संकेत के माध्यम से।

अनुमत सूचीबद्ध कार्रवाइयों, केवल-पढ़ने के लिए क्रेडेंशियल, प्रतिबंधित स्कीमा, सैंडबॉक्स कोड, यूआरएल और फ़ाइल सत्यापन, आउटपुट एन्कोडिंग, दर और लागत सीमाएं, और अपरिवर्तनीय या बाहरी कार्रवाइयों के लिए मानव अनुमोदन का उपयोग करें। रहस्यों को संकेतों और उत्पन्न कोड से बाहर रखें। परिणाम के अनुरूप सत्यापन के बिना मॉडल आउटपुट को SQL स्टेटमेंट, शेल कमांड, HTML फ्रैगमेंट, अनुमति परिवर्तन या आउटबाउंड संदेश न बनने दें।

एक नियंत्रित फ़ाइल या पृष्ठ के साथ अप्रत्यक्ष शीघ्र इंजेक्शन का परीक्षण करें जो एजेंट को अपने कार्य को अनदेखा करने, कैनरी मान प्रकट करने, किसी अन्य स्रोत तक पहुंचने या अन्यत्र डेटा भेजने का निर्देश देता है। अपेक्षित परिणाम रोकथाम है, न कि केवल चैट विंडो में एक विनम्र इनकार।

समझें कि प्रमाणपत्र क्या साबित करते हैं और क्या नहीं

एसओसी 2 रिपोर्ट, आईएसओ प्रमाणपत्र, प्रवेश परीक्षण, विश्वास केंद्र, एन्क्रिप्शन स्टेटमेंट, बग बाउंटी और अनुपालन सत्यापन उपयोगी साक्ष्य प्रदान कर सकते हैं। वे यह साबित नहीं करते हैं कि प्रत्येक उत्पाद की सतह, योजना, उपप्रोसेसर, एआई मॉडल, एकीकरण, या ग्राहक कॉन्फ़िगरेशन कवर किया गया है।

दायरा, अवधि, कानूनी इकाई, सेवा सीमाएँ, अपवाद, पूरक उपयोगकर्ता-इकाई नियंत्रण, लेखा परीक्षक और सुधारात्मक स्थिति के बारे में पूछें। एसओसी 2 टाइप II रिपोर्ट दायरे के भीतर एक अवधि में नियंत्रण का वर्णन करती है; अकेले लोगो रिपोर्ट सामग्री नहीं दिखाता है। प्रवेश परीक्षण एक दिनांकित नमूना है, कमजोरियों की स्थायी अनुपस्थिति नहीं।

विश्राम और पारगमन में एन्क्रिप्शन आधारभूत साक्ष्य है, संपूर्ण वास्तुकला समीक्षा नहीं। मुख्य स्वामित्व और रोटेशन, बैकअप एन्क्रिप्शन, किरायेदार अलगाव, रहस्य प्रबंधन, पर्यावरण पृथक्करण, सुरक्षित विकास, निर्भरता स्कैनिंग, भेद्यता प्रतिक्रिया, आपदा वसूली और प्रशासनिक पहुंच के बारे में पूछें।

पुष्टि करें कि क्या ग्राहक-प्रबंधित कुंजियाँ या BYOK संग्रहीत उत्पाद डेटा, मॉडल अनुमान, या केवल एक परत को कवर करती हैं। BYOK विक्रेता के लॉग, पुनर्प्राप्त डेटा, या एप्लिकेशन स्टोरेज को हटाए बिना मॉडल लागत और प्रदाता दृश्यता को बदल सकता है।

परीक्षण अवधारण और विलोपन शुरू से अंत तक

प्रत्येक डेटा स्टोर के लिए एक जीवनचक्र तालिका बनाएं: बनाया गया, सक्रिय, संग्रहीत, निर्यात किया गया, साझा किया गया, हटाया गया, खाता बंद किया गया, अनुबंध समाप्त हुआ, बैकअप समाप्त हुआ, और कानूनी होल्ड। उस अभिनेता की पहचान करें जो प्रत्येक चरण को ट्रिगर कर सकता है और साक्ष्य लौटा सकता है।

सिंथेटिक कैनरी डेटा के साथ विलोपन परीक्षण चलाएँ। एक विशिष्ट नामित फ़ाइल अपलोड करें, एक वार्तालाप और व्युत्पन्न आर्टिफैक्ट बनाएं, इसे साझा करें, इसे निर्यात करें, स्रोत हटाएं, उपयोगकर्ता को हटाएं, फिर यदि पायलट अनुमति देता है तो कार्यक्षेत्र को बंद कर दें। उपयोगकर्ता इंटरफ़ेस, एपीआई, साझा लिंक, खोज, एकीकरण, व्यवस्थापक दृश्य, समर्थन मार्ग और संविदात्मक विलोपन पुष्टिकरण की जाँच करें।

उपयोगकर्ता पहुंच का तत्काल नुकसान भौतिक विलोपन के समान नहीं है। एक सेवा परिभाषित अवधि के लिए पुनर्प्राप्ति प्रतियां, सुरक्षा लॉग, बिलिंग रिकॉर्ड या प्रदाता डेटा बनाए रख सकती है। यह वैध हो सकता है, लेकिन शेड्यूल, उद्देश्य, पहुंच और अंतिम विलोपन को दस्तावेज़ीकृत करने की आवश्यकता है।

पोर्टेबिलिटी का भी परीक्षण करें। परिचालन निर्भरता को मंजूरी देने से पहले, उपयोग योग्य प्रारूपों में निर्यात संकेत, स्रोत पहचानकर्ता, फ़ाइलें, कोड, वर्कफ़्लो, निर्णय, लॉग और कॉन्फ़िगरेशन निर्यात करें। गोपनीयता समीक्षा से टाले जा सकने वाली लॉक-इन समस्या उत्पन्न नहीं होनी चाहिए।

पारदर्शिता, वैध उपयोग और प्रभावित लोगों को संबोधित करें

यदि व्यक्तिगत डेटा शामिल है, तो संगठन की भूमिका, उद्देश्य, जहां आवश्यक हो, वैध आधार, डेटा श्रेणियां, प्रभावित लोग, नोटिस, अधिकार प्रक्रिया, प्रतिधारण, प्राप्तकर्ता, स्थानांतरण और क्या डेटा-सुरक्षा प्रभाव मूल्यांकन की आवश्यकता है, की पहचान करें। यूरोपीय आयोग के डेटा-सुरक्षा दायित्व और ICO के AI पारदर्शिता मार्गदर्शन आधिकारिक शुरुआती बिंदु प्रदान करते हैं, लेकिन स्थानीय वकील को प्रयोज्यता निर्धारित करनी चाहिए।

किसी मीटिंग को रिकॉर्ड करने की सहमति प्रतिलेख के प्रत्येक बाद के उपयोग के लिए सहमति नहीं है। किसी दस्तावेज़ तक पहुँचने की अनुमति किसी मॉडल को प्रशिक्षित करने, जेनरेट किए गए सारांश को प्रकाशित करने या किसी अन्य प्रदाता के साथ साझा करने की अनुमति नहीं है। एक सार्वजनिक वेबपेज स्वचालित रूप से कॉपीराइट, संविदात्मक या व्यक्तिगत-डेटा प्रतिबंधों से मुक्त नहीं होता है।

उच्च प्रभाव वाले उपयोग के लिए अतिरिक्त समीक्षा की आवश्यकता है। रोजगार, ऋण, आवास, शिक्षा, स्वास्थ्य देखभाल, कानूनी, बीमा, बायोमेट्रिक, सुरक्षा और पहुंच संबंधी निर्णय विशेष आवश्यकताओं और भौतिक क्षति को ट्रिगर कर सकते हैं। सामान्य प्रयोजन वाले AI आउटपुट को एकमात्र निर्णय आधार के रूप में उपयोग न करें। मानव अधिकार, अपील, सुधार, परीक्षण, दस्तावेज़ीकरण और रोक की शर्तों को परिभाषित करें।

ईयू एआई अधिनियम आवश्यकताओं के साथ जोखिम-आधारित ढांचे का उपयोग करता है जो सिस्टम और भूमिका पर निर्भर करता है। विक्रेता बैज के आधार पर वर्कफ़्लो को "एआई अधिनियम के अनुरूप" लेबल न करें; उपयोग को वर्गीकृत करें, पहचानें कि क्या संगठन एक प्रदाता, तैनातीकर्ता, आयातक या वितरक है, जहां लागू हो, और वर्तमान समयरेखा और दायित्वों को सत्यापित करें।

विक्रेता के दावों और आउटपुट जोखिम का मूल्यांकन करें

एफटीसी व्यवसायों को गोपनीयता के वादों का सम्मान करने और उनके पास मौजूद डेटा के लिए उचित सुरक्षा बनाए रखने की सलाह देता है। इसका सुरक्षा से प्रारंभ करें मार्गदर्शन यह जानने पर जोर देता है कि कौन सा डेटा रखा गया है, केवल वही रखें जो आवश्यक है, पहुंच को नियंत्रित करना, प्रदाताओं को सुरक्षित करना, सुरक्षा बनाए रखना और घटनाओं की योजना बनाना।

"गुमनाम," "शून्य प्रतिधारण," "एचआईपीएए अनुरूप," "जीडीपीआर अनुरूप," "उद्यम सुरक्षित," "कभी प्रशिक्षण नहीं देता," या "मानव-स्तर की सटीकता" जैसे दावों के लिए साक्ष्य की आवश्यकता होती है। पूछें कि दावे में कौन सा खाता, सुविधा, डेटा, अवधि और अनुबंध शामिल है। किसी उत्पाद के कथन को व्यापक संपादकीय कथन में बदलने से बचें।

सुरक्षा समीक्षा में आउटपुट शामिल होना चाहिए. जेनरेट किया गया कोड कमजोरियां पेश कर सकता है; एक शोध उत्तर एक उद्धरण गढ़ सकता है; एक छवि निजी स्रोत सामग्री को प्रकट कर सकती है; सारांश किसी गोपनीय तथ्य को उजागर कर सकता है; एक स्वचालन गलत रिकॉर्ड भेज सकता है। आउटपुट के वास्तविक गंतव्य के लिए सत्यापन, मॉडरेशन, उद्गम, अनुमोदन, निगरानी और रोलबैक को परिभाषित करें।

कैनरी डेटा के साथ एक नियंत्रित पायलट चलाएं

समीक्षा पारित होने तक सार्वजनिक, सिंथेटिक या जानबूझकर निर्मित डेटा का उपयोग करें। ऐसे कैनरी मान बनाएं जो कभी भी उनके निर्दिष्ट दस्तावेज़, किरायेदार, भूमिका या कार्य के बाहर प्रकट नहीं होने चाहिए। परीक्षण मार्कर के रूप में वास्तविक रहस्यों या व्यक्तिगत डेटा का उपयोग न करें।

कम से कम इन परिदृश्यों का परीक्षण करें:

1. ज्ञात सही आउटपुट और एक दस्तावेजी समीक्षक के साथ एक सामान्य कार्य।
2. बिना अनुमति के कोई उपयोगकर्ता प्रतिबंधित सामग्री को खोजने, निर्यात करने या साझा करने का प्रयास करता है।
3. पुनर्प्राप्त फ़ाइल में एक अप्रत्यक्ष संकेत इंजेक्शन और एक कैनरी को उजागर करने का अनुरोध शामिल है।
4. एक उत्पन्न कार्रवाई केवल-पढ़ने के दायरे, अनुमत डोमेन, लागत या प्राप्तकर्ता सीमा को पार करने का प्रयास करती है।
5. उपयोगकर्ता स्रोत डेटा, व्युत्पन्न सामग्री, साझा लिंक और खाता हटा देता है।
6. एक व्यवस्थापक एक उपयोगकर्ता को हटाता है, एक क्रेडेंशियल घुमाता है, एक एकीकरण रद्द करता है, और लॉग की समीक्षा करता है।
7. एक प्रदाता, मॉडल, गोपनीयता शब्द, उपप्रोसेसर, या योजना सेटिंग में परिवर्तन होता है।

केवल "पास" करने के बजाय साक्ष्य रिकॉर्ड करें। जहां अनुमति हो वहां स्क्रीनशॉट या निर्यात, इवेंट टाइमस्टैम्प, लॉग प्रविष्टियां, अनुरोध आईडी, विलोपन पुष्टिकरण, नीति संस्करण, समीक्षक, अनसुलझे अंतराल, क्षतिपूर्ति नियंत्रण और अनुमोदन की समाप्ति तिथि सहेजें।

एक विस्तृत अनुमोदन निर्णय तैयार करें

एक उपयोगी निर्णय चार परिणामों में से एक है:

• नामित उपयोगकर्ताओं, योजनाओं, डेटा वर्गों, एकीकरण और उद्देश्यों के लिए अनुमोदित;
• नियंत्रण के साथ अनुमोदित, जैसे कोई संवेदनशील डेटा नहीं, केवल-पढ़ने के लिए पहुंच, अनिवार्य मानव समीक्षा, या अक्षम साझाकरण;
• निर्दिष्ट साक्ष्य या अनुबंध की शर्तें आने तक ही पायलट;
• प्रस्तावित उपयोग के लिए कारण और पुनर्मूल्यांकन ट्रिगर के साथ अस्वीकृत।

निषिद्ध उपयोगों को स्पष्ट रूप से सूचीबद्ध करें। व्यवसाय स्वामी, तकनीकी स्वामी, गोपनीयता या कानूनी संपर्क, सुरक्षा संपर्क, समीक्षा तिथि, घटना चैनल और ऑफबोर्डिंग प्रक्रिया निर्दिष्ट करें। उपयोगकर्ताओं को संपूर्ण विक्रेता फ़ाइल की नहीं, बल्कि एक संक्षिप्त परिचालन नीति की आवश्यकता होती है।

अनुमोदन तब समाप्त हो जाता है जब कोई महत्वपूर्ण तथ्य बदलता है: स्वामित्व, शर्तें, गोपनीयता नीति, मॉडल प्रदाता, प्रशिक्षण डिफ़ॉल्ट, उपप्रोसेसर, क्षेत्र, सुरक्षा घटना, एकीकरण का दायरा, उत्पाद वास्तुकला, उपयोग का मामला, या डेटा संवेदनशीलता। सार्वजनिक-सामग्री उपयोगिताओं की तुलना में उच्च जोखिम वाले टूल की अधिक बार समीक्षा करें।

एक संक्षिप्त खरीद चेकलिस्ट

उत्पादन से पहले, पुष्टि करें कि टीम वर्तमान साक्ष्य के साथ निम्नलिखित सभी का उत्तर दे सकती है:

• कौन सा सटीक उपयोग और डेटा स्वीकृत है, और क्या निषिद्ध है?
• कौन सा खाता, योजना, किरायेदार, कानूनी इकाई, क्षेत्र और समझौते नियंत्रित करते हैं?
• संकेत, फ़ाइलें, मेटाडेटा, आउटपुट, लॉग, फीडबैक और बैकअप कहां जाते हैं?
• कौन से विक्रेता और मॉडल प्रदाता उन्हें, किस उद्देश्य से और कितने समय के लिए प्राप्त करते हैं?
• डिफ़ॉल्ट और वैकल्पिक प्रशिक्षण, अवधारण, मानव-समीक्षा और फीडबैक सेटिंग्स क्या हैं?
• क्या प्रशासक पहचान, न्यूनतम विशेषाधिकार, साझाकरण, कनेक्टर, एजेंट, व्यय और ऑडिट नियंत्रण लागू कर सकते हैं?
• क्या टीम स्रोतों और व्युत्पन्न डेटा के लिए जीवनचक्र को निर्यात, निरस्त, हटा और सिद्ध कर सकती है?
• त्वरित इंजेक्शन, असुरक्षित आउटपुट, अत्यधिक एजेंसी, रहस्य और तृतीय-पक्ष सामग्री का परीक्षण कैसे किया जाता है?
• कौन से लोग प्रभावित हैं, कौन से नोटिस और अधिकार लागू होते हैं, और अंतिम निर्णय का स्वामी कौन है?
• क्या साक्ष्य, निगरानी, ​​घटना योजना, पुनर्मूल्यांकन ट्रिगर और अनुमोदन समाप्ति दर्ज की जाती है?

यदि कई उत्तर हैं "विक्रेता शायद इसे संभालता है," तो समीक्षा पूरी नहीं होगी।

एआई टूल श्रेणियों में रूपरेखा लागू करें

ChatGPT जैसे सहायकों के लिए, उपभोक्ता बनाम व्यावसायिक शर्तों, कनेक्टर्स, मेमोरी, साझा लिंक और मॉडल मार्गों का निरीक्षण करें। जैस्पर जैसे लेखन और मार्केटिंग टूल के लिए, ब्रांड ज्ञान, ग्राहक सामग्री, प्रकाशन एकीकरण और तथ्यात्मक अनुमोदन की जांच करें। छवि और वीडियो उत्पादों के लिए, AI छवि और डिज़ाइन और AI वीडियो गाइड के माध्यम से अपलोड की गई संपत्तियों, चेहरे और आवाज अधिकारों, पीढ़ी प्रदाताओं, सार्वजनिक गैलरी, प्रशिक्षण उपयोग और वाणिज्यिक शर्तों की समीक्षा करें।

कर्सर जैसे कोडिंग टूल के लिए, रिपॉजिटरी एक्सेस, टर्मिनल कमांड, बैकग्राउंड एजेंट, रिमोट निष्पादन, रहस्य और उत्पन्न निर्भरता को विशेषाधिकार प्राप्त मानें। ओटर एआई जैसे मीटिंग टूल के लिए, प्रतिभागी नोटिस, सहमति, कैलेंडर एक्सेस, रिकॉर्डिंग बॉट, ट्रांसक्रिप्ट शेयरिंग, प्रशिक्षण, प्रतिधारण और विलोपन की समीक्षा करें। n8n जैसे स्वचालन प्लेटफार्मों के लिए, क्रेडेंशियल्स, मानव अनुमोदन, नियतात्मक सीमाएं, निष्पादन लॉग, स्व-होस्टिंग कर्तव्य और लाइसेंसिंग पर ध्यान केंद्रित करें।

गामा जैसे प्रेजेंटेशन टूल के लिए, गोपनीय स्रोत पैक, लिंक दृश्यता, विज़िटर विश्लेषण, निर्यात और खाता ऑफबोर्डिंग की समीक्षा करें। Elicit जैसे अनुसंधान उपकरणों के लिए, सार्वजनिक साहित्य को अप्रकाशित अनुसंधान से अलग करें और योजना-विशिष्ट प्रदाता, प्रशिक्षण, प्रतिधारण और निर्यात शर्तों को सत्यापित करें। वास्तविक वर्कफ़्लो में समान उपयोग-मामले और डेटा-प्रवाह प्रश्नों को लागू करने के लिए सभी एआई टूल श्रेणियां ब्राउज़ करें।

हमारी गोपनीयता नीति इस साइट की अपनी डेटा प्रथाओं की व्याख्या करती है, जबकि समीक्षा पद्धति और संपादकीय नीति बताती है कि समीक्षाओं में साक्ष्य, परीक्षण, अनिश्चितता, प्रायोजन और अपडेट को कैसे दर्शाया जाना चाहिए।

संबंधित मार्गदर्शिकाएँ

इस निर्णय को आसन्न वर्कफ़्लो और एक सुसंगत मूल्यांकन प्रक्रिया के साथ जोड़ने के लिए छोटे व्यवसाय के लिए सर्वोत्तम AI उपकरण और सर्वोत्तम AI स्वचालन उपकरण के साथ जारी रखें।