GİZLİ YAPAY ZEKÂ EĞİTİMİNİ YAKALAYAN BİR ELEKTRİK SAYACI

Yapay zekâyı yönetmeye yönelik anlaşmalar bir gün, ne kadar büyük bir modelin eğitilebileceğine sınır getirebilir. Bunları uygulamak, izlenen bir hesaplama kümesinin model eğitip eğitmediğini — işletmecisi bunu saklamaya çalışsa bile — anlayabilen dışarıdan bir doğrulayıcı gerektirir.

Denetim yollarının çoğu güven gerektirir: çiplerde tutulan kayıtlar, çipler arasındaki ağa yapılan dinlemeler, personelle görüşmeler, muhbirler. Hepsi, işletmecinin denetimindeki donanıma ya da işletmecinin insanlarına dayanır. Çiplerin dışındaki fiziksel bir algılayıcı ise dayanmaz. Bir tesisin giriş kablosuna pensle takılan bir elektrik sayacı, mevcut bir veri merkezine sonradan eklenebilir ve kurcalamaya karşı mühürlenebilir.

Önceki çalışmalar, eğitimin güç tüketiminde iz bıraktığını göstermişti. Ama bu çalışmalar, saniyede milyonlarca kez örnekleme yapan tek bir kart üzerindeki problar ya da çiplerin kendi telemetrisini kullanıyordu. Gerçekçi bir sayaç raf (sunucu dolabı) ya da tesis düzeyinde, yaklaşık bir milyon kat daha yavaş çalışır ve sinyali yumuşatıp seyrelten bir güç kaynağının arkasında durur.

Eğitimin kalp atışı

Melbourne Üniversitesi ve MATS programından Tom Kimpson, Oxford Üniversitesi’nden Mauricio Baker ve MATS’ten Emlyn Graham basit bir olgudan yola çıkıyor. Birçok çip birlikte bir model eğittiğinde, her adım yüksek güçlü bir hesaplama evresi ile çiplerin sonuçlarını paylaştığı düşük güçlü bir evre arasında gidip gelir. Bu, yaklaşık saniyede bir gerçekleşir ve tesisin güç spektrumunda dar bir çizgi çizer — güç sinyalini, bir prizmanın ışığı ayrıştırması gibi ritimlerine ayırın: saniyede bir gelen bir vuruş, tek bir frekansta keskin bir tepe olarak belirir.

Bu çizgiyi fark etmek göründüğünden zordur. Gerçek eğitim kusursuz bir tempo tutmaz: yavaş bileşenler, aşırı ısınan çipler ve sıcaklık değişimleri ritmin gezinmesine yol açar. Üstelik bir işletmeci ritmi bilerek gezdirebilir ya da yayıp bulanıklaştırabilir.

Bu yüzden ekip, pasif sonardan ve sürekli kütleçekim dalgası aramalarından bir araç ödünç aldı: bir spektrogramda (hangi ritimlerin an be an mevcut olduğunu gösteren bir harita) yavaşça kayan sönük bir çizgiyi takip eden bir Viterbi izleyicisi (Viterbi tracker).

Simüle edilmiş bir veri merkezinde test

Gerçek bir eğitim tesisine ait kamuya açık güç verisi bulunmadığından yazarlar, şebeke kararlılığı için kullanılan ve yayımlanmış bir eğitim gücü modelini temel alarak bir tesisin modelini kurdu: ana bir eğitim çalıştırması ve arka planda daha küçük işler. Alternatif, “masum” senaryo ise ana çalıştırmanın yerine beyan edilmiş çıkarımı (declared inference) — yani bir modelin yanıtlarını kullanıcılara sunmayı — koyuyor; yazarlar testi zorlaştırmak için bu çıkarımı bilerek gürültülü yaptı.

Saklanmak için hiç çaba göstermeyen bir işletmeciye karşı izleyici, %1 yanlış alarm oranıyla, beş dakikalık pencerelerde eğitim çalıştırmalarının en az %96’sını tespit ediyor; bu, herhangi bir testin kuramsal olarak yapabileceğinin en iyisinin en fazla dört yüzde puanı altında. Tek bir sabit frekansta çizgi arayan klasik testler, ritim kaydığı anda çöküyor.

Beş dakikalık üç kayıt üzerinde izleyici (mavi): sabit eğitim (a), ritmi 0,4 Hz, yani saniyede 0,4 vuruş gezinen eğitim (b; kesikli çizgi, gerçek ritim) ve izleyicinin yalnızca gürültüyü birbirine bağladığı ve tespit eşiğinin altında kaldığı çıkarım (c). — Şekil 4, Kimpson ve diğerleri (2026), arXiv:2610.30182.

Sayacın gösterişli olması gerekmiyor: saniyede en az iki kez örnekleme yapmalı, en fazla yarım saniye üzerinden ortalama almalı ve güç kaynağı ritmi fazla derinden süzmemeli.

Eğitim ritmi kaydıkça %1 yanlış alarmda tespit oranı: izleyici (mavi), kuramsal tavana (kesikli) yakın kalıyor. — Şekil 5, Kimpson ve diğerleri (2026), arXiv:2610.30182.

Saklanmanın bedeli

Ardından ekip hileci rolüne girdi. Sekiz saklanma yolu denediler: rastgele boşta bekleme süreleri eklemek, ritmi kaydırmak, her adımı yeniden şekillendirmek, eğitimi başka işlerin arasına seyreltmek ve dahası. Sabit frekanslı testlere karşı çoğu işe yaradı. İzleyiciye karşı neredeyse hiçbiri yaramadı: izleyici, test edilen 46 ayarın 43’ünde çalıştırmaların en az %95’ini yakaladı.

Gerçekten işe yarayan tek bir yaklaşım oldu: her adımdaki iş miktarını değiştirmek. En güçlü biçimi, beş dakikalık pencerelerin %73’üne kadarında eğitimi hızdan hiç ödün vermeden gizledi. Ama başka bir bedeli var. Küçük ve gerçek bir eğitim çalıştırmasında — tek bir A100 çipi üzerinde 30 milyon parametreli bir dil modeli — aynı kaliteye ulaşmak, varyanta bağlı olarak %93 ila %267 daha fazla hesaplama gerektirdi.

Zaman da hilecinin aleyhine işliyor. Tam bir gün boyunca, çalıştırma başına %0,1 yanlış alarm oranıyla izleme yapan doğrulayıcı, bu en iyi hileyi kullanan çalıştırmaların %87’sini, %44’ünü de ilk bir saat içinde yakaladı. Yaklaşık yedide biri kaçtı.

Sırada gerçek sayaçlar var

Yazarlar açık sınırlar sıralıyor. Tüm kayıtlar sentetik; çok çipli gerçek bir tesiste test planlanıyor ama henüz sahip olmadıkları bir donanım gerektiriyor. Sayaç eğitimin kendisini değil, düzenli bir ritmi tespit ediyor: başka periyodik işler ya da bir çipin kendi güç yönetimi döngüsü onu tetikleyebilir. Ayrıca çiplerle sayaç arasındaki yeterince büyük bir enerji deposu sinyali düzleştirebilir — ancak bu durumda doğrulayıcı, çiplere daha yakın ikinci bir sayaç yerleştirebilir.