AI của bạn là một HỘP Đen và đó là lý do nó sẽ làm rò rỉ ví của bạn

interpretability cơ học là cách bạn mở ra một LLM và ánh xạ các mạch thực bên trong nó
không phải thử nghiệm cảm xúc
không phải "có vẻ hoạt động"
theo dõi neuron thực sự về cách mô hình thực hiện logic
hiện tại 96% lưu lượng truy cập vào các điểm cuối của bạn là bot đọc HTML thô
mô hình của bạn đang đưa ra quyết định mà bạn không thể kiểm tra, không thể theo dõi, không thể giải thích
và bạn để nó giữ chìa khóa của vốn thực
nhóm an toàn AI của các công ty không hiểu cách hoạt động của chính mô hình của họ
họ bao bọc nó trong RLHF và gọi đó là phù hợp
đó không phải an toàn, đó là MARKETING
thách thức thực sự là quy mô - hàng tỷ tham số và chúng ta chỉ có thể giải thích các mạch nhỏ bé cho đến nay
nhưng những mạch nhỏ đó nói cho bạn mọi thứ
những neuron nào kích hoạt trên dữ liệu giá
những neuron nào hoàn toàn ghi đè bối cảnh RAG của bạn.