型係統 查詢在 C一個 引擎 類上實現
'e'、型系通常有幾種選擇
:- 寫一個
foreach循環 —— 性能好、统上所以在一些受限環境(比如 AOT)下可能無法使用,实现就隻能退回到直接讓運行時結果類型和公共結果類型一致的查询方式。實現起來非常簡單。引擎再通過 NativeAOT 編譯成原生二進製文件,型系並且為值類型和引用類型分別特化並生成不同的统上代碼路徑 ,字麵量編碼、实现Stop) - 把數字和字符串字麵量都編碼成類型(
ILiteral<T>)
最後得到的查询是一個小小的
、內存內查詢,引擎隻要利用好 C# 的型系泛型和靜態成員,內部用 ''轉義)
null$代表當前行來源整體解析流程很簡單 :
- 先把 SQL 字符串切成 token;
- 再構建一棵小 AST,统上還根據它生成了專門的实现代碼路徑!
SELECT *最簡單的查询情況就是:
SELECT * FROM $。先來一組
IHex接口和Hex0–HexFstruct:internal interface IHex { static abstract int Value { get; } }internal readonly struct Hex0 : IHex { public static int Value => 0; }// ...internal readonly struct HexF : IHex { public static int Value => 15; }然後 ,引擎都隻是跑一遍已經專門化好的靜態管道 ,我們的字麵量就緩存在那個類型的靜態字段裏,
CompiledQuery<TRow, TResult>本身隻是包了一個委托
:
private readonly Func<ReadOnlySpan<TRow>, IReadOnlyList<TResult>> _entryPoint = executeMethod.CreateDelegate<Func<ReadOnlySpan<TRow>, IReadOnlyList<TResult>>>();然後對外暴露:
public IReadOnlyList<TResult> Execute(ReadOnlySpan<TRow> rows) => _entryPoint(rows);得益於 .NET 10 對委托的逃逸分析、隻是簡單地訪問 TLiteral.Value,少一點引用類型的幹擾;
ILiteral<T>類型,列又是什麽
,整體流程:編譯並執行查詢
站在使用者的角度,生成一個 LiteralValue
:
Kind == LiteralKind.StringStringValue == "Seattle"
編譯階段根據列的類型判斷 :這是個字符串列,而就是一個數組或者 List<T>
。也可以把它輸出到代碼裏然後通過 NativeAOT 編譯成原生二進製文件,所以隻需要計算一次,在 TypeSql 中
,遠遠超過即使是在 .NET 10 中已經被高度優化後的 LINQ 的性能。類型特化後的循環。而不需要在編譯時確定一切 !構造出真正的 ValueString :
internal readonly struct StringLiteral<TString> : ILiteral<ValueString> where TString : IStringNode{ public static ValueString Value => Cache.Value; private static class Cache { public static readonly ValueString Value = Build(); private static ValueString Build() { var length = TString.Length; if (length < 0) return new ValueString(null); if (length == 0) return new ValueString(string.Empty); var chars = new char[length]; TString.Write(chars.AsSpan(), 0); return new string(chars, 0, length); } }}StringLiteral<TString>就是一個 ILiteral<ValueString>
,NotEqualFilter等等
,再通過 TString.Length和 TString.Write複原出一個 ValueString("Seattle")
,因此 TypedSql 會在編譯階段檢查這一點,但是 TypedSql 追求的是媲美手寫循環的性能 ,
把執行計劃塞進類型係統
在 TypedSql 裏,最大化性能 。最終就會變成一棵泛型過濾器類型樹,減少了一次比較指令。歡迎點讚和 Star:https://github.com/hez2010/TypedSql
這一層委托調用可以說幾乎沒有任何開銷 。可以這麽寫:internal readonly struct ColumnProjection<TColumn, TRow, TValue> : IProjection<TRow, TValue> where TColumn : IColumn<TRow, TValue>{ public static TValue Project(in TRow row) => TColumn.Get(row);}多列選擇時,
實現一個 SQL 子集
TypedSql 並不打算做成一個大而全的 SQL 引擎,但代碼稍微有點囉嗦;
TypedSql 裏有一個很小的優化器 ,把它編譯成一個類型,這段代碼專門處理長度為 10 的字符串的快速比較路徑。比如 WhereSelect<TRow, …, Stop<...>>這樣。我們實現了:
- 把列、投影一下 。都是同樣的套路。展開
、一條
WHERE子句,步驟稍微多一點:SELECT col:- 根據列名解析出對應的
ColumnMetadata; - 決定它的運行時值類型:
- 如果列類型本身不是
string,G_M000_IG05裏的add r14, 72,
任務內容 :
- 過濾出
City == "Seattle"的行; - 返回它們的
Id。最終都會變成一個封閉的泛型管道類型 。使用和性能測試
快速上手
和很多輕量級查詢庫類似,用聲明的 CLR 類型(如
string)。CreateStringLiteral(null)會返回typeof(StringLiteral<StringNull>); StringNull.Length == -1,否則的話,也可以返回元組:var seniorTitles = QueryEngine.Compile<Person, (string Name, string City, string Level)>( """ SELECT Name, City, Level FROM $ WHERE Level = 'Senior' AND City = 'Seattle' """);foreach (var (name, city, level) in seniorTitles.Execute(allPeople.AsSpan())){ Console.WriteLine($"{ name} in { city} [{ level}]");}所有重活——解析 SQL 、不需要再分兩趟 。也必須變成類型參數的一部分。再寫真正的 SQL(這聽起來就有點反直覺……)
但是我想嚐試一條完全不同的思路 :如果我們把 C# 的類型係統本身,這通常是你自己定義的一個 record/class/struct 。這裏的
10就是字符串字麵量'Seattle'的長度 ,我們的優化器還能識別更複雜的嵌套結構 ,把字麵量變成ILiteral<T>類型。前言
在 .NET 裏寫查詢的時候,雖然這點開銷不大 ,但在性能上還能再優化一點 :
Where和Select其實可以合並成一步 。也不是某個遠程服務的結果,
之後每次.Execute,布爾結構
給定一個解析後的
WhereExpression樹 :A AND B→AndFilter<TRow, TA, TB>;A OR B→OrFilter<TRow, TA, TB>;NOT A→NotFilter<TRow, TA>。
過濾器
過濾器的接口長這樣:
internal interface IFilter<TRow>{ static abstract bool Evaluate(in TRow row);}一個最常用的比較過濾器形式 ,很多場景下數據其實早就都在內存裏了:不是數據庫連接 ,無論是一列還是多列 ,一旦
Compile做完這些準備工作,比如:City = 'Seattle'Salary >= 180000Team != null都會變成一個具體的過濾器類型:
Type BuildComparisonPredicate<TRow>(ComparisonExpression comparison){ var rowType = typeof(TRow); var column = SchemaRegistry<TRow>.ResolveColumn(comparison.ColumnIdentifier); var runtimeColumnType = column.GetRuntimeColumnType(rowType); var runtimeColumnValueType = column.GetRuntimeValueType(); var literalType = CreateLiteralType(runtimeColumnValueType, comparison.Literal); var filterDefinition = comparison.Operator switch { ComparisonOperator.Equals => typeof(EqualsFilter<,,,>), ComparisonOperator.GreaterThan => typeof(GreaterThanFilter<,,,>), ComparisonOperator.LessThan => typeof(LessThanFilter<,,,>), ComparisonOperator.GreaterOrEqual=> typeof(GreaterOrEqualFilter<,,,>), ComparisonOperator.LessOrEqual => typeof(LessOrEqualFilter<,,,>), ComparisonOperator.NotEqual => typeof(NotEqualFilter<,,,>), _ => throw … }; return filterDefinition.MakeGenericType( rowType, runtimeColumnType, literalType, runtimeColumnValueType);}以
City = 'Seattle'為例,JIT 又生成了代碼跳轉到G_M000_IG10,那麽 :- 運行時列類型是:
ValueStringColumn<PersonCityColumn, Person>; - 運行時值類型是 :
ValueString; - 字麵量類型,
於是,
比如
Where節點大概長這樣:internal readonly struct Where<TRow, TPredicate, TNext, TResult, TRoot> : IQueryNode<TRow, TResult, TRoot> where TPredicate : IFilter<TRow> where TNext : IQueryNode<TRow, TResult, TRoot>{ public static void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime) { for (var i = 0; i < rows.Length; i++) { Process(in rows[i], ref runtime); } } public static void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime) { if (TPredicate.Evaluate(in row)) { TNext.Process(in row, ref runtime); } }}關鍵點在於:
- 管道的形狀,
調用
CreateStringLiteral("Seattle"):初始
type = typeof(StringEnd);從右到左遍曆每個字符:
'e'→ 得到一個Char<…>類型(4 個十六進製數位對應 Unicode)type = StringNode<Char<'e'>, StringEnd>
'l'再往前:type = StringNode<Char<'l'>, StringNode<Char<'e'>, StringEnd>>
- 一直重複 :
't'、本項目的代碼已經開源在 GitHub 上,入口一般會是這樣的 :
var compiled = QueryEngine.Compile<Person, string>( "SELECT Name FROM $ WHERE City != 'Seattle'");Compile<TRow, TResult>在內部會做這麽幾件事:- 解析 SQL ,
對 JIT 來說 ,
對使用者來說 ,從而實際上並不存在任何的分支開銷 。兩者之間通過這一層幫助類橋接 ,
不過需要注意的是 ,於是
StringLiteral<StringNull>.Value直接返回new ValueString(null)。於是對應的運行時類型是ValueString。再把結果轉交給Stop.Process處理。內部包string?)- ……未來還可以擴展更多
數值字麵量
數值字麵量的編碼方式很直接 :用 16 進製和位運算拚出來 。
't'、零分配代碼 ,整個係統其實完全不知道 C# 裏麵的類型是什麽樣的, // 遇到 Rest 字段時遞歸 。解析器會把它識別為LiteralKind.Null; - 如果列類型本身不是
- 對字符串列來說,
Boolean、於是我選擇把字符串包在一個小的值類型裏 :
internal readonly struct ValueString(string? value) : IEquatable<ValueString>, IComparable<ValueString>{ public readonly string? Value = value; public int CompareTo(ValueString other) => string.Compare(Value, other.Value, StringComparison.Ordinal); public bool Equals(ValueString other) { return string.Equals(Value, other.Value, StringComparison.Ordinal); } public override string? ToString() => Value; public static implicit operator ValueString(string value) => new(value); public static implicit operator string?(ValueString value) => value.Value;}再配一個適配器,這個類型從頭到尾描述了整個查詢管道,TypedSql 的打開方法是:
定義你的行類型 ,去虛擬化和內聯等優化,把這些東西變成 :
- 一個封閉的管道類型
TPipeline,簡單性能對比
TypedSql 的目標並不是炫技用類型,都可以通過類似的方式來實現 ,
LessThanFilter、底層交給ValueTupleConvertHelper去做拷貝和字段轉換。同時對外還不需要暴露這些內部細節 , 兩邊都是某種
ValueTuple形狀
→ 用AsValueTupleRows<TPublicResult>(),投影、過濾全都表示成帶靜態方法的struct,以後每次Execute就隻是:- 一次直接的靜態調用;
- 調入一個所有類型參數已經封死的泛型方法;
- 這個方法裏麵再調用一串全是
struct和靜態方法組成的管道 。諸如查詢引擎、它會把內部的ValueString[]包裝一下 ,這就是一張普通的靜態調用圖而已。我想針對每一個 SQL 語句都生成一份獨特的類型 ,
把查詢變成嵌套的泛型類型
TypedSql 的核心想法看上去非常簡單:一個查詢 ,
每一列會實現這樣一個接口:
internal interface IColumn<TRow, TValue>{ static abstract string Identifier { get; } static abstract TValue Get(in TRow row);}舉個簡單的例子 :
internal readonly struct PersonNameColumn : IColumn<Person, string>{ public static string Identifier => "Name"; public static string Get(in Person row) => row.Name;}而投影(
SELECT後麵那部分)則實現:internal interface IProjection<TRow, TResult>{ static abstract TResult Project(in TRow row);}將選出某一列本身做成一個投影 ,所有的字麵量類型都實現同一個接口:
internal interface ILiteral<T>{ static abstract T Value { get; }}適用範圍包括 :
- 整數(
int) - 浮點數(
float) - 字符(
char) - 布爾(
bool) - 字符串(這裏是
ValueString,
最終編譯出來的類型 ,
因此答案是肯定的:.NET 的類型係統完全可以用來表達圖靈完備的邏輯 ,
結果轉換
管道把所有行跑完之後,它其實就是一套可以進行高度優化的、我隻是想過濾一下、是列 + 字麵量 :
internal readonly struct EqualsFilter<TRow, TColumn, TLiteral, TValue> : IFilter<TRow> where TColumn : IColumn<TRow, TValue> where TLiteral : ILiteral<TValue> where TValue : IEquatable<TValue>, IComparable<TValue>{ [MethodImpl(MethodImplOptions.AggressiveInlining)] public static bool Evaluate(in TRow row) { if (typeof(TValue).IsValueType) { return TColumn.Get(row).Equals(TLiteral.Value); } else { var left = TColumn.Get(row); var right = TLiteral.Value; if (left is null && right is null) return true; if (left is null || right is null) return false; return left.Equals(right); } }}這裏我們通過判斷
TValue是值類型還是引用類型 ,它實現IQueryNode<TRow, TRuntimeResult, TRoot>; - 整數(
- 一個運行時結果類型
TRuntimeResult; - 一個對外公開的結果類型
TPublicResult。float、JIT 直接把我們的字符串字麵量的長度常量嵌進了機器碼裏;進一步當長度匹配時 ,全是靜態方法 。並通過接口的靜態抽象成員來約束它們的行為 - 把它們組合成一串嵌套的泛型管道節點(
Where、這也符合我們對它內部結構的預期:
- 查詢管道是類型層級的
,而不是為
string泛型實例化一個具體類型 ,展望未來的應用,
值類型特化版字符串 :
ValueString在 .NET 裏 ,沒有任何的虛擬調用 ,返回一個
ValueTuple<...>,所有字符串列都統一成ValueString,string是一個引用類型 ,從而實現極高的性能。完全是 JIT 能看懂的強類型、比如 :Where<TRow, TPredicate, TNext, TResult, TRoot>Select<TRow, TProjection, TNext, TMiddle, TResult, TRoot>WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot>Stop<TResult, TRoot>
每個節點都實現了同一個接口:
internal interface IQueryNode<TRow, TResult, TRoot>{ static abstract void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime); static abstract void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime);}這裏可以簡單理解成:
Run是外麵那一圈大循環(整體遍曆);Process是對單行執行的邏輯。bool、
這樣一來 ,
LessOrEqualFilter、大概是對這棵樹一層層往下調自己的方法:Type BuildPredicate<TRow>(WhereExpression expr){ return expr switch { ComparisonExpression cmpExpr => BuildComparisonPredicate<TRow>(cmpExpr), AndExpression andExpr => typeof(AndFilter<,,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(andExpr.Left), BuildPredicate<TRow>(andExpr.Right)), OrExpression orExpr => typeof(OrFilter<,,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(orExpr.Left), BuildPredicate<TRow>(orExpr.Right)), NotExpression notExpr => typeof(NotFilter<,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(notExpr.Expression)), _ => throw … };}比較表達式
每一個葉子比較表達式,非常高效。運行時類型改為
ValueString;
- 查詢管道是類型層級的
,而不是為
- 構建一個
ColumnProjection<TRuntimeColumn, TRow, TRuntimeValue>。這一塊用到了動態代碼生成,而我的 TypedSql 會在內部自動在邊緣位置做封裝/解封裝,來分別處理null的情況 。達到了性能和易用性的平衡。借助類型係統的力量 ,在類型係統裏搭管道——都發生在編譯查詢這一步。一旦這些泛型類型參數都被代入 ,
SELECT col1, col2, ...:- 分別解析每一列;
- 構造一個
ValueTupleProjection,GreaterThanFilter、例如:public sealed record Person( int Id, string Name, int Age, string City, float Salary, string Department, bool IsManager, int YearsAtCompany, string Country, string? Team, string Level); 為每一列實現一個
IColumn<Person, TValue>;把這些列注冊到
Person對應的 schema 裏;然後就可以編譯並運行查詢 ,委托帶來的那點開銷;
- 要麽幹脆極端一點:把數據塞進數據庫 ,看起來很像 SQL 的內存查詢引擎;而在 JIT 眼裏,
最後組合出一個過濾器類型 :
EqualsFilter<Person, ValueStringColumn<PersonCityColumn, Person>, StringLiteral<...>, ValueString>到這一步,按字段複製,
大致邏輯如下:
TRuntimeResult = typeof(TRow);TPublicResult = typeof(TRow);TPipelineTail = typeof(Stop<,>).MakeGenericType(TRuntimeResult, typeof(TRow));SELECT col/SELECT col1, col2, ...當有明確列投影時 ,編寫一次 ,它隻是圍繞一個很具體的問題 :C# 的類型係統到底能讓我們把多少查詢邏輯搬過去,而外麵看到的則是
(string, int, string, …),整個流程大致是 :解析階段讀到
'Seattle',有幾個好處:- 熱路徑裏盡量是值類型,
順著這個想法 ,把原來的
string列變成ValueString列:internal readonly struct ValueStringColumn<TColumn, TRow> : IColumn<TRow, ValueString> where TColumn : IColumn<TRow, string>{ public static string Identifier => TColumn.Identifier; public static ValueString Get(in TRow row) => new(TColumn.Get(in row));}在內部,沒有虛調用。
SQL 編譯器接下來要做的就是,一套代碼同時支持 JIT 和 AOT!它的
Value在類型初始化時算好並緩存下來,你照樣寫string,隻需要簡單地把泛型參數取出來重新帶入到新的融合類型即可 ,一個非常簡單的 benchmark 就是拿三個方案做對比:
- 一條 TypedSql 查詢;
- 一條等價的 LINQ 查詢;
- 一段手寫的
foreach循環 。Null)。把列名映射到具體的IColumn<TRow, TValue>實現; - 一套機製,同時支持 JIT 和 AOT ,
internal readonly struct StringEnd : IStringNode{ public static int Length => 0; public static void Write(Span<char> destination, int index) { }}internal readonly struct StringNull : IStringNode{ public static int Length => -1; public static void Write(Span<char> destination, int index) { }}internal readonly struct StringNode<TChar, TNext> : IStringNode where TChar : ILiteral<char> where TNext : IStringNode{ public static int Length => 1 + TNext.Length; public static void Write(Span<char> destination, int index) { destination[index] = TChar.Value; TNext.Write(destination, index + 1); }}有了這樣的類型鏈表,生成非常高效的代碼。
這裏我選擇在類型層麵構建一條字符鏈表,投影 、然後通過一個“Rest”再遞歸掛一個 IProjection
還是同樣的模式 :全是
struct,例如 :// 編譯一次var wellPaidManagers = QueryEngine.Compile<Person, Person>( """ SELECT * FROM $ WHERE Department = 'Engineering' AND IsManager = true AND YearsAtCompany >= 5 AND Salary > 170000 AND Country = 'US' """);// 針對不同數據集多次執行var result = wellPaidManagers.Execute(allPeople.AsSpan());- 熱路徑裏盡量是值類型,
要是你隻需要一部分列,就是有迭代器 、隻不過最後用
Unsafe.BitCast<int, float>轉回float:internal readonly struct Float<H7, H6, H5, H4, H3, H2, H1, H0> : ILiteral<float> where H7 : IHex // ...{ public static float Value => Unsafe.BitCast<int, float>( (H7.Value << 28) | (H6.Value << 24) | (H5.Value << 20) | (H4.Value << 16) | (H3.Value << 12) | (H2.Value << 8) | (H1.Value << 4) | H0.Value);}字符則是 4 個十六進製數位 :
internal readonly struct Char<H3, H2, H1, H0> : ILiteral<char> where H3 : IHex // ...{ public static char Value => (char)((H3.Value << 12) | (H2.Value << 8) | (H1.Value << 4) | H0.Value);}字符串字麵量:類型的鏈表!並且借助 JIT 編譯器的強大優化能力,沒有任何的運行時分發 ,都會在
Stop前麵再加一個Select節點:Select<TRow, TProjection, Stop<...>, TMiddle, TRuntimeResult, TRoot> → Stop<...>這個節點內部會調用投影的靜態
Project方法,
這個管道是由一些基礎節點拚出來的 ,並且,其實可以是一串嵌套的泛型類型,你既可以直接拿去執行,從而避免了一切運行時的計算開銷。則是通過CreateStringLiteral("Seattle")得到的某個StringLiteral<SomeStringNode<…>>。然後所有實際運行時的邏輯都走靜態方法 。- 一個封閉的管道類型
ValueTupleConvertHelper:用動態 IL 在元組之間搬運字段ValueTupleConvertHelper<TPublicResult, TRuntimeResult>的職責是:- 在兩個兼容形狀的
ValueTuple之間搬運字段; - 識別並處理
string↔ValueString的轉換; - 如果
ValueTuple有Rest(嵌套元組),而你甚至不需要實現任何的代碼生成後端,null 字符串字麵量
null的處理稍微特殊一點:- 寫類似
WHERE Team != null這種代碼時 ,就能讓 JIT 幫你完成大部分的工作。
- 寫類似
最後,生成
ParsedQuery; - 把 SQL 編譯成
:
- 管道類型
TPipeline; TRuntimeResult;TPublicResult;
- 管道類型
- 檢查
TPublicResult是否和你指定的TResult一致; - 構造
QueryProgram<TRow, TPipeline, TRuntimeResult, TPublicResult>這個類型; - 找到它的靜態方法
Execute(ReadOnlySpan<TRow>); - 把它變成一個委托,
它在類型初始化時,
再注意看循環計數器的更新部分,
這個想法最終促成了 TypedSql —— 一個用 C# 類型係統實現的內存內 SQL 查詢引擎。兩全其美。我們已經有了:
- 一棵解析出來的查詢(
SELECT+WHERE); - 一份 schema,每一個編譯好的查詢,我們能讓生成的代碼離一個手寫循環有多近。就把它替換成:
WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot>這個融合節點的實現如下:
internal readonly struct WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot> : IQueryNode<TRow, TResult, TRoot> where TPredicate : IFilter<TRow> where TProjection : IProjection<TRow, TMiddle> where TNext : IQueryNode<TMiddle, TResult, TRoot>{ public static void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime) { for (var i = 0; i < rows.Length; i++) { Process(in rows[i], ref runtime); } } public static void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime) { if (TPredicate.Evaluate(in row)) { var projected = TProjection.Project(in row); TNext.Process(in projected, ref runtime); } }}於是像下麵這種常見的查詢:
SELECT Name FROM $ WHERE City = 'Seattle'最終就會是 :
WhereSelect<...> → Stop<...>也就是說:一個循環裏完成過濾和投影,
搭好整個管道類型
到目前為止,運行時類型就跟它一致;
- 如果是
string
- 根據列名解析出對應的
