Tensorhane

Yakında · Türkçe makine öğrenmesi platformu

Makine öğrenmesini yazarak öğren

Makine öğrenmesini, LLM'leri, ajan sistemlerini ve GPU programlamayı Python'da kodlayarak ve pratik yaparak öğren. Hepsi Türkçe.

Sadece önemli haberler. İstediğin an listeden çıkabilirsin.

gradient_descent.py
Kayıp eğrisi · LOSS CURVE

  • doğru hesaplanıyor
  • her adımda
  • yakınsıyor

LLM'in iç yüzü

Bir dil modeli bir cümleyi nasıl işler?

Metin önce parçalara (tokens) bölünür. Model her adımda bir sonraki parçayı tahmin eder ve önceki hesapları önbellekte (KV cache) tutar.

Tokenizasyon BPE

Sık görülen harf çiftleri birleşir; Türkçe ekler kendi token'larına ayrılır.

Token token üretim NEXT TOKEN

Önbellek KV CACHE

Transformer'ın kalbi

Dikkati gör

Dikkat mekanizması (attention), bir kelimeyi anlamlandırırken cümlenin hangi kısımlarına bakılacağını hesaplar. Kodu çalıştır: önce skorlar (scores) bulunur, softmax onları ağırlıklara (weights) çevirir, oklar ağırlık kadar kalınlaşır. Sonra istediğin kelimeye tıkla.

attention.py

  • her satırda
  • ağırlıklar olasılık

Makale okuma

Transformer'ı makalesinden öğren

Bilimsel makale (research paper) okumak da kodlayarak öğrenilir. Transformer'ı tanıtan Attention Is All You Need makalesinin mimari şeklini yeniden çizdik: her blok bir kod satırı, her formül bir test. Çalıştır: İngilizce bir cümle kodlayıcıdan (encoder) geçer, kod çözücü (decoder) Türkçesini token token yazar.

transformer.py
Makalenin mimari şekli · ENCODER–DECODER

  • katman boyutu korur
  • gelecek görünmez
  • LayerNorm çıktısı

Ajan sistemleri

Bir ajan araçları nasıl kullanır?

Ajan (agent), bir döngü içinde araç çağıran bir dil modelidir: düşünür, bir araç çağırır, sonucu gözler ve yeterli bilgi olunca yanıtlar. Bu kalıbın adı ReAct (reason + act). Kodu çalıştır: model iki aracı gerçekten çağırarak soruyu yanıtlar.

agent.py
ReAct döngüsü · TOOL CALLING

    • validate(call.args)her çağrı şemaya uyuyor
    • step < max_stepsdöngü kendiliğinden bitti
    • answer == f(observations)yanıt araç sonuçlarından hesaplandı

    GPU programlama

    Matris çarpımı GPU'da nasıl paralelleşir?

    Matris çarpımı (matrix multiplication), derin öğrenmedeki hesabın büyük kısmıdır. GPU, çıktıyı karolara (tiles) böler; her karoyu bir blok (thread block) hesaplar ve bloklar akış çoklu işlemcilerinde (streaming multiprocessor, SM) aynı anda çalışır. Kod Triton'da, yani Python'da.

    matmul.py
    Çarpımların küpü · TILED MATMUL

    • sonuç doğru
    • karonun her biri bir kez hesaplandı

    Öğrenme yolları

    Yolunu seç, kodlayarak ilerle

    Makine öğrenmesi, LLM'ler, ajan sistemleri ve GPU programlama: her yol kendi başına ilerler. Her konuyu sıfırdan kodlar, problemlerle pratik yapar, testlerle doğrularsın.

    • ML Matematiği

      lineer cebir · olasılık ve istatistik · kalkülüs · optimizasyon · bilgi teorisi

    • ML Temelleri

      gradyan inişi (gradient descent) · kayıp fonksiyonları · sinir ağları · geri yayılım (backprop) · normalizasyon

    • Makale Okuma

      Attention Is All You Need · GPT · LoRA · FlashAttention · formülden koda

    • Çıkarım (inference)

      KV cache · quantization · FlashAttention · PagedAttention · speculative decoding · batching

    • LLM İç Yapısı

      tokenizasyon (BPE) · embedding · dikkat (attention) · transformer · RoPE · LoRA · RLHF, DPO · MoE · RAG

    • Ajan Sistemleri

      araç çağırma (tool calling) · ReAct döngüsü · planlama · bellek · çoklu ajan (multi-agent) · değerlendirme (evals) · MCP

    • GPU Programlama

      CUDA · Triton · tiled matmul · bellek hiyerarşisi · mixed precision

    • ML Sistem Tasarımı

      veri hatları (pipelines) · özellik deposu (feature store) · model sunumu (serving) · ölçekleme · izleme ve kayma (drift) · A/B testi

    • Sıfırdan bir LLM yaz

      proje

      Yolları birleştiren proje: tokenizer'dan eğitime, KV cache'ten Triton çekirdeğine kendi küçük GPT'ni eğit.

    Tensorhane açıldığında ilk sen haberdar ol.

    Bekleme listesine katıl; neyi en çok öğrenmek istediğini söyle, ilk içerikleri ona göre hazırlayalım.

    Bekleme listesine katıl