struct Llama::RunState

• Llama::RunState
• Struct
• Value
• Object

Defined in:

llama/run_state.cr

Constructors

• .new(config : TransformerConfig)

Instance Method Summary

• #att : Array(Float32)
• #att=(att : Array(Float32))
• #hb : Array(Float32)
• #hb2 : Array(Float32)
• #hb2=(hb2 : Array(Float32))
• #hb=(hb : Array(Float32))
• #k : ArrayView(Float32)
• #k=(k : ArrayView(Float32))
• #key_cache : Array(Float32)
• #key_cache=(key_cache : Array(Float32))
• #logits : Array(Float32)
• #logits=(logits : Array(Float32))
• #q : Array(Float32)
• #q=(q : Array(Float32))
• #v : ArrayView(Float32)
• #v=(v : ArrayView(Float32))
• #value_cache : Array(Float32)
• #value_cache=(value_cache : Array(Float32))
• #x : Array(Float32)
• #x=(x : Array(Float32))
• #xb : Array(Float32)
• #xb2 : Array(Float32)
• #xb2=(xb2 : Array(Float32))
• #xb=(xb : Array(Float32))

Constructor Detail

Instance Method Detail