تعلّم الآلة الإحصائي (أشجار القرار وآلات المتجهات الداعمة والنماذج التجميعية)
خوارزميات تتعلّم قواعد التنبؤ من أمثلة مصنّفة؛ وقامت عليها معظم تطبيقات تعلّم الآلة العملية قبل التعلّم العميق، وما زالت الأفضل في بيانات الأعمال الجدولية.
- 1984

النسخة الأولى
ليو بريمان وجيروم فريدمان وريتشارد أولشن وتشارلز ستون (CART)؛ روس كوينلان (ID3)؛ فلاديمير فابنيك وزملاؤه (SVM، مختبرات بيل)
الصورة: Retro-Computing Society of Rhode Island · CC BY-SA 3.0 · Wikimedia Commons - 1992

آلات المتجهات الداعمة (SVM) مع النوى
بوزر وغويون وفابنيك يجمعون مصنّفات الهامش الأقصى مع حيلة النواة لتعلّم حدود غير خطية بضمانات قوية.
الصورة: Bell Labs · Public domain · Wikimedia Commons - 1997

التعزيز (AdaBoost)
فرويند وشابير يبيّنان أن دمج كثير من المتعلّمات الضعيفة يُنتج نموذجًا واحدًا عالي الدقة.
الصورة: AT&T Corp. (AT&T Laboratories) · Unclear; no licence stated (company log… · Wayback Machine capture (27 Jul 1997) of www.re… - 2001

الغابات العشوائية
بريمان يجمع متوسط كثير من أشجار القرار العشوائية في نموذج متين لا يكاد يحتاج إلى ضبط.
الصورة: University of California, Berkeley · Unclear; institutional logo, no licence… · Wayback Machine capture of www.berkeley.edu, 6 … - 2016

مكتبة XGBoost (التعزيز التدرّجي القابل للتوسّع)
نظام أشجار مُعزَّزة تدرّجيًا سريع ومفتوح المصدر يهيمن على المسابقات وأعمال الصناعة في البيانات الجدولية.
الصورة: Hcho3wiki · CC BY-SA 4.0 · Wikimedia Commons
موضع خلاف: سبقت خوارزمياتُ تعلّم الأشجار كتابَ CART الصادر عام 1984: فقد بنى برنامج THAID أشجار تصنيف عام 1972، وتداولت تقارير CART منذ 1977، وسار عمل كوينلان على ID3 بالتوازي (نُشر عام 1986).