كنتُ أرغب في إعداد برنامج برمجة محلي يتميز بما يلي:
سرعة كافية لاستخدامه على جهازي الماك
عمله عبر واجهة برمجة تطبيقات متوافقة مع OpenAI (حتى أتمكن من استخدامه في أدوات أخرى)
ويُفضّل أن يكون قادرًا على التعامل مع لقطات الشاشة/الصور عند الحاجة، حتى أتمكن من تزويده بلقطات شاشة لما أنجزه.
وقد نجحتُ في ذلك! هذا الفيديو يُظهر البرنامج في الوقت الفعلي، ويستجيب بسرعة مناسبة تمامًا.
بعد بعض الاختبارات، توصلتُ إلى الإعداد النهائي التالي:
- ملف llama.cpp مُنشأ باستخدام Metal على نظام macOS
- جهاز Gemma 4 26B-A4B بصيغة GGUF
- نموذج Q8 MTP مبدئي لفك التشفير التخميني
- جهاز عرض Gemma 4 متعدد الوسائط
- جهاز Raspberry Pi كوكيل ترميز طرفي
ليست هناك تعليقات:
إرسال تعليق