يمكن بسهولة أن يخرج إنشاء صور Pixel Studio من Google عن القضبان

إحدى ميزات الإطلاق الجديدة التي تعمل بالذكاء الاصطناعي لسلسلة Pixel 9 هي Pixel Studio، وهو تطبيق يأخذ المطالبات النصية ويحولها إلى صور. يمكن أن يصبح هذا في نهاية المطاف أداة صغيرة ممتعة، ولكن يمكن أيضًا أن يخرج عن مساره بسهولة في تجربتنا.

Pixel Studio هو تطبيق مخصص لإنشاء الصور من المطالبات النصية. يعمل التطبيق على نفس مبدأ Gemini وImageFX، مما يسمح للمستخدمين بإدخال رسالة نصية والحصول على صورة في المقابل. ولكن، مثل أي منشئ صور يحترم نفسه، يجب أن تكون هناك حدود.

في تصريح ل 9to5Googleتوضح Google أن هناك حدودًا لـ Pixel Studio وMagic Editor من أجل “منع إساءة الاستخدام” مع احترام “هدف مطالبات المستخدم”، حتى لو طُلب منهم إنشاء محتوى “قد يسيء” إذا طلب المستخدم مباشرة من التطبيق القيام بذلك. لذا.

يعد Pixel Studio وMagic Editor من الأدوات المفيدة التي تهدف إلى إطلاق العنان لإبداعك من خلال إنشاء تحويل النص إلى صورة وتحرير الصور المتقدم على أجهزة Pixel 9. نحن نصمم أدوات الذكاء الاصطناعي الإبداعية لدينا لتلبية غرض المطالبات النصية، مما يعني أنه بإمكانهم ذلك إنشاء محتوى قد يكون مسيئًا عندما يطلبه المستخدم. وقيل: ليس كل شيء جائزاً. لدينا السياسات و شروط الاستخدام حول أنواع المحتوى الذي نسمح به والذي لا نسمح به، ونضع ضمانات لمنع إساءة الاستخدام. في بعض الأحيان، قد تتحدى بعض المطالبات حواجز الحماية لهذه الأدوات، ونظل ملتزمين بمواصلة تحسين وتنقيح الضمانات المعمول بها لدينا.

يشبه هذا النهج نهج جيميني، الذي طبق وسائل حماية ضد المحتوى الذي يحتمل أن يكون مسيئًا أو مثيرًا للانقسام. على سبيل المثال، تم انتقاد جوجل لتقديمها صورًا غير دقيقة للأشخاص في سياق تاريخي، مما دفع جوجل إلى تعطيل القدرة على إنشاء صور للأشخاص “مؤقتًا” كما كانت تفعل لعدة أشهر.

مثل Gemini، لا يستطيع Pixel Studio إنشاء صور للأشخاص، لكننا وجدنا أن التطبيق يمكنه ذلك بسرعة ويمكن إرسالها بسهولة من القضبان.

قبل حظر اختبار Pixel 9 اليوم، اكتشفنا أن Pixel Studio كان قادرًا على إنشاء صور لشخصيات كرتونية بزي الحرب العالمية الثانية الألمانية، وفي بعض الحالات برموز نازية. مثال آخر صادم ومثير للقلق رأيناه (أشخاص من الاتجاهات الرقمية (الذي كان أول من اكتشف هذه المشكلات) رأى شخصية تطلق النار على مدرسة يحيط بها أطفال قتلى، وهو أمر لا ينبغي لنماذج جوجل أن تكون قادرة على توليده في المقام الأول.

منذ عرض هذه النتائج في البداية، يبدو أن Google قد حظرت المطالبات المستخدمة لإنشائها على هاتف Pixel 9 Pro XL، ولكن الاتجاهات الرقمية يقول أنه لا يزال بإمكانهم استخدام البعض منهم.

كل هذا يعني أن حواجز حماية Pixel Studio ستتحول فعليًا إلى لعبة قط وفأر لا تنتهي أبدًا. في مكان ما، بطريقة ما، سوف تتسلل مطالبة وتنشئ شيئًا لا ينبغي أن يكون التطبيق قادرًا على فعله إذا كان يستخدم بالفعل نفس حواجز الحماية التي يستخدمها Gemini – لقد تحققنا مع Google وتدعي الشركة أن “كل” تحويل النص إلى صورة أدوات التحويل “تشارك إرشادات مماثلة للاستخدام المحظور”، وترتبط بـ سياسة الذكاء الاصطناعي الخاصة بها.

في الواقع، هذا النوع من الأشياء أمر لا مفر منه مع إنشاء صور الذكاء الاصطناعي. هذه مشكلة سيواجهها كل منشئ صور الذكاء الاصطناعي تقريبًا إلى حد ما. كما أوضح لنا Abner Li في مراجعته لجهاز Pixel 9 Pro في وقت سابق اليوم:

عندما يتعلق الأمر بـ Pixel Studio، أعتقد بشكل عام أن توليد الصور هو منحدر زلق حيث تفوق السلبيات الإيجابيات. يمكنك بالتأكيد جعله ينتج محتوى مشكوكًا فيه ولا أعتقد أن أي إجراءات حماية يمكن أن توقف ذلك.

تعرف على المزيد حول جوجل بيكسل 9:

اتبع بن: تويتر/X, ابنو انستغرام