حوار الكروت دا مضحك بصراحة أنا الفكهاني و السوبر ماركت الصغير فشخ جنب البيت شغال فيزا عادي
بمشي ٩٩٪ من الوقت من غير كاش في دمياط عادي
الباقي ترو بنسبة طبعا
بس بالنسبة للخروجات مفهاش بحر بردو 😂
-مفيش خروجات في أي محافظة زي القاهرة
-مفيش تعامل بالكروت في ٩٠٪ من الأماكن زي القاهرة
-مفيش شوبينج زي القاهرة
-مفيش مصالح هتتقضي الا في القاهرة
-مفيش مدارس زي اللي في القاهرة
-مفيش فرص عمل محترمة تقريباً الا في القاهرة
مشاعرها حقيقية بس انتوا اللي اعتدوا النعمة و مش مقدرين حجمها
170
دمياط بتاعتنا،فين في دمياط 😂
اعبط حاجه شوفتها الاسبوع ده
شركة سعودية ومديرها سعودي، ماسكين شغل لشركات كبيرة جدا
بس الاوفيس في مصر وتحديدا دمياط الجديدة
عشان يدفع لـ UI UX سالري 8000 جنيه
ويدفع لـ Front-end سالري 9500 جنيه
وده عموما بقى المنتشر مؤخرا في دمياط والمنصورة عشان يحقق اعلى مكسب ويدفع قليل
248
أنا بكل بصراحة زهقت من المجال 🙂
واحدة من الوظايف اللي عليها طلب عالي في المجال ال AI و في نفس الوقت العرض فيها نسبيًا قليل هي الـ Inference Engineering خصوصًا في السوق الأمريكي و الاوربي و اعتقد قريب السوق الخليجي.
الشركات مش محتاجة بس ناس تعرف تبني أو تدرب models، لكن كمان ناس تعرف تشغّل LLMs وVLMs وخدمات STT/TTS بكفاءة لملايين المستخدمين و باقل تكلفة ممكنو.
حاولت أرتب الـ resources دي في learning path التالي:
1. ابدأ بأساسيات LLM Inference
اول حاجة محتاج تفهم lifecycle بتاعة request واحدة. لازم تبقى فاهم المفاهيم زي:
- ال Tokenization
- ال Forward pass
- ال Autoregressive generation
- ال Prefill
- ال Decodeا
- ال KV cache
- ال TTFT وITL
- ال Throughput vs. latency
المصادر:
- ال NVIDIA talk at AI Engineering
youtu.be/9tvJ_GYJA-o
- ال Hugging Face — LLM Inference at Scale with TGI
huggingface.co/blog/martinig…
- ال Abi Aryan — Prefill vs. Decode
substack.com/home/post/p-187…
2. الفهم الاساسي لل Transformer internals
مش محتاج ترجع تذاكر الـ Transformer architecture كلها من الأول. ركز أكتر على الحاجات اللي ليها علاقة مباشرة بالـ inference:
- ال Transformer blocks
- ال Embeddings
- ال Self-attention
- ال Q, K, V
- إزاي attention بينتج عنها الـ KV cache
من أحسن الـ resources اللي بتساعد تبني intuition بصري للموضوع:
- ال Brendan Bycroft LLM Visualizer
bbycroft.net/llm
3. الفهم الاساسي لل mental model للـ GPU
على الأقل حاول تفهم:
- ال GPU architecture
- ال Streaming Multiprocessors
- ال HBM vs. SRAM
- ال Memory hierarchy
- ال Memory bandwidth
- ال FLOPS
- ال Arithmetic intensity
- ال Compute-bound vs. memory-bound workloads
جزء كبير من inference optimization بيبدأ يبقى أوضح لما تبطل تفكر في الـ model بس، وتبدأ تفكر كمان في إزاي الـ data بتتحرك جوه الـ GPU.
ال resources دي هتكون مفيدة:
- ال Horace He — Making Deep Learning Go Brrrr From First Principles
horace.io/brrr_intro.html
- ال Damek Davis — Basic Facts about GPUs
damek.github.io/random/basic…
4. بعدها ابدأ في تقنيات ال Inference Optimization
لما تكون فاهم الأساسيات والـ hardware، التقنيات دي مش هتبقى مجرد مجموعة tricks منفصلة عن بعض.
ركز على:
ال Quantization
ال PagedAttention
ال FlashAttention
ال Chunked prefill
ال Speculative decoding
ال Prompt / Prefix caching
ال Continuous batching
شركة NVIDIA عندهم overview كويس جدًا للموضوع:
- Mastering LLM Techniques: Inference Optimization
developer.nvidia.com/blog/ma…
بعدها ممكن تبدأ تقرأ الـ original papers للحاجات المرتبطة أكتر بالـ systems اللي بتشتغل عليها.
5. وفي الآخر، اختار Inference Engine وادرسه و ممكن حتى تعمل open source contributions ليهم
هنا أغلب المفاهيم اللي ذاكرتها بتبدأ تتجمع في system واحدة. اختار engine وافهم request بتمشي جواه إزاي:
- ال Scheduling
- ال Batching
- ال KV-cache management
- ال Memory allocation
- ال Execution
- ال Serving
فيه 3 engines ممكن تبدأ بيهم:
- ال vLLM: اختيار قوي لو مهتم بـ general-purpose high-throughput LLM serving.
- ال SGLang: مثير للاهتمام خصوصًا في workloads اللي فيها reusable prefixes أو LLM programs معقدة زي multi-turn وagentic systems.
- ال llama.cpp: مهم لو مهتم بالـ local inference، CPUs، consumer hardware أو edge deployment.
اهم المصادر:
- ال Inside vLLM
aleksagordic.com/blog/vllm
- ال Distributed LLM Inference
bentoml.com/blog/the-shift-t…
ولو إنت أصلًا mid-level أو senior ML/AI engineer، بعدها ممكن تدخل في:
- ال Tensor parallelism
- ال Pipeline parallelism
- ال Prefill-decode disaggregation
- ال Distributed KV caching
- ال Load balancing
- ال Prefix-aware routing
-ال Multi-node inference
لو شغلك حاليًا في ML أو AI engineering، أعتقد إن LLM inference من المجالات اللي تستحق وقت أكبر في الفترة الجاية.
Maybe we won’t reach that point
Q: اي ال plan بتاعتك لو لا قدر الله حصل layoff ومعرفتش تلاقي شغل تاني في ال software
Ahmed Essam: أنا فعلًا بدأت أدرس Liberal Arts، وبفكر كمان أدخل Trade School وأتعلم حرفة عملية زي النجارة أو الكهرباء أو السباكة. الفكرة إني أبني لنفسي مسارين مختلفين: واحد فكري يعتمد على المعرفة والتحليل، وواحد يدوي يعتمد على مهارة مطلوبة على أرض الواقع. وجود المسارين يخليني أكثر قدرة على التكيف لو حصل تغيير كبير في سوق البرمجيات.
أنا مش مؤمن إن الـsoftware هيموت، لأن العالم هيحتاج برمجيات أكتر، لكن أعتقد إن القيمة السوقية لمهندس البرمجيات التقليدي ممكن تقل مع زيادة إنتاجية الـAI وانخفاض عدد الناس المطلوبين لتنفيذ نفس العمل. لذلك خطتي مش الهروب من المجال، لكن توسيع هويتي وقدراتي بحيث مايبقاش رزقي كله متعلقًا بصناعة واحدة. ask-ahmed.aessam.chatgpt.sit…
1
524
شكلنا هنرجع للcontent ولا ايه 🫣
Q: اي ال plan بتاعتك لو لا قدر الله حصل layoff ومعرفتش تلاقي شغل تاني في ال software
Ahmed Essam: أنا فعلًا بدأت أدرس Liberal Arts، وبفكر كمان أدخل Trade School وأتعلم حرفة عملية زي النجارة أو الكهرباء أو السباكة. الفكرة إني أبني لنفسي مسارين مختلفين: واحد فكري يعتمد على المعرفة والتحليل، وواحد يدوي يعتمد على مهارة مطلوبة على أرض الواقع. وجود المسارين يخليني أكثر قدرة على التكيف لو حصل تغيير كبير في سوق البرمجيات.
أنا مش مؤمن إن الـsoftware هيموت، لأن العالم هيحتاج برمجيات أكتر، لكن أعتقد إن القيمة السوقية لمهندس البرمجيات التقليدي ممكن تقل مع زيادة إنتاجية الـAI وانخفاض عدد الناس المطلوبين لتنفيذ نفس العمل. لذلك خطتي مش الهروب من المجال، لكن توسيع هويتي وقدراتي بحيث مايبقاش رزقي كله متعلقًا بصناعة واحدة. ask-ahmed.aessam.chatgpt.sit…
3
414
بقيت بتجنب ردود الأفعال اول كام يوم لما حاجة تنزل و الدنيا تهدا بعدين نشوف بقي
أنا مصدوم من ردود فعل الناس من امبارح على موديل ChatGPT Astra، وكأن الهلع الأسبوعي اللي بنعيشه على الـ AI بقت فقرة بايخة لازم نعيشها عرض مستمر.
السكينة بتقتل، بس بتعرف تقطع الأكل وتقطع الشوك من على الورد علشان تتبسط بيه. هلاك العالم مكنش واقف على الـ AI.
تأملوا كمية الاكتشافات والعلاجات اللي قاعدين بنوصلها كل ما التقنيات دي بتتطور.
1
151
حاجات كتير من دي معدتش relevant ل roles كتير حاليا مش بقول انها مش مهمه بس في الغالب مش مهم تراجعها حتي قبل انترفيو
في انترفيو اتسالت في حاجات زي حتة naive دي كانت decision tree فأكيد مش فاكر تفاصيل التفاصيل جوا بكل بساطه عشان مش بستخدمها و قلت كدا و عديت عادي
وأنا بعمل interviews ل ML engineers بمختلف سنين الخبرة بتاعتهم بيضايقني كتير ان في concepts بتقع منهم مع انها مهمة جدا وفي منها basics ومش هتاخد وقت كتير في مذاكرتها. فبما اني داخل علي round interviews جديدة هستعمل ال thread دا وأحط اي concept من دول في tweet (دي مش roadmap)
1
5
1,138
خناقة العربيات الصيني دي هتفضل كدا لحد متجرب واحدة 😂 هنا بتكلم علي العربيات الكهربا 🫡
هتلاقي الناس اللي عمالين يعيطو ان العربيات الصيني احسن من الألماني دول نفس الناس اللي بيقولو الموبايلات الاندرويد احسن من الـiPhone. انا والله اركب ألماني موديل ٢٠٠٠ ولا اركب زييكر و بييكر و افاتار و الهبل ده موديل السنة
2
472


























