بينما يحذّر الخبراء من مخاطر تعامل الذكاء الاصطناعي مع بيانات المستخدمين، قرّرت شركة أوبن إيه آي إطلاق ميزة في روبوت الدردشة "تشات جي بي تي" تسمح بربطه بحسابات المستخدمين المالية. تقول الشركة إن الميزة "آمنة" وغرضها تقديم النصائح المالية، لكن الخبراء يفضّلون اليقظة. وتقول الشركة في مدونتها "يمكنكم ربط حساباتكم المالية بأمان، والاطلاع على لوحة تحكم تُظهر لكم أين تذهب أموالكم، وطرح أسئلة على تشات جي بي تي مرتبطة بوضعكم المالي، كل ذلك مع الحفاظ على سيطرتكم الكاملة على بياناتكم. نبدأ بمعاينة لمجموعة صغيرة لنستفيد من تجارب المستخدمين، ونُحسّن التجربة، ونُوسّع نطاقها بشكل مدروس". ووفق الشركة أكثر من 200 مليون شخص يزورون "تشات جي بي تي" شهرياً لوضع الميزانيات، والاستفسار عن استثماراتهم، ومقارنة الخيارات المتاحة، والتخطيط لأهدافهم المستقبلية. وبحسبها نسخة "جي بي تي 5.5" جعلت "تشات جي بي تي" أكثر قدرة على تحليل الأسئلة المعقدة والمتغيرة حسب السياق التي تتطلبها إدارة الشؤون المالية الشخصية. وتدعو الشركة إلى ربط المنصة بالحسابات البنكية للمستخدم. وتوضح في مدونتها: "بربط حساباتك المالية، يستطيع تشات جي بي تي دمج هذا التحليل في وضعك المالي الحقيقي والمعلومات التي شاركتها حول أهدافك وأسلوب حياتك وأولوياتك، مما يساعدك على تحديد الأنماط، وفهم المفاضلات، والتخطيط للقرارات المهمة بطريقة أكثر خصوصية وشمولية". لكن وعود الخصوصية من "أوبن إيه آي" تتصادم مع التحذيرات المتكررة من الخبراء. حذّرت الباحثة في سياسات الخصوصية والبيانات في معهد ستانفورد للذكاء الاصطناعي المتمحور حول الإنسان، جينيفر كينغ، في تقرير صادر عن المعهد، من أن أي شيء يتم إدخاله في نموذج لغوي "قد يصبح متاحاً للعامة". ويرفض الخبراء تحميل بيانات بالغة الحساسية مثل الإقرارات الضريبية، أو كلمات المرور، أو أرقام الضمان الاجتماعي، أو لقطات الشاشة التي تحتوي على تفاصيل مالية خاصة، إلى نموذج الذكاء الاصطناعي. ونقل موقع بيزنس إنسايدر عن خبير أمن الذكاء الاصطناعي في "غوغل"، هارش فارشني، تحذيره المستخدمين من مشاركة معلومات مثل كلمات المرور أو أرقام بطاقات الائتمان أو السجلات الطبية أو عناوين المنازل مع روبوتات الدردشة، مشبهاً هذه المحادثات بـ"بطاقة بريدية عامة".