En grundläggande princip kan vara att minimera risken för felklassificering. Med vissa förutsättningar leder denna princip till den av R.A. Fisher utvecklade linjära diskriminantfunktionen. Denna är en linjär kombination av de olika variablerna och väljs så att dess värden är så homogena som möjligt inom de olika grupperna men så