레퍼런스 가이드에 abs() 항목을 보면 다음과 같이 나와 있습니다.

If the argument is a complex number, returns the number’s modulus.
Note: All undefined variables are treated as real variables.

즉, abs(복소수변수) 를 계산하려면 abs(a+b*i) 꼴로 변형되어야 합니다. (a, b 등 변수는 모두 실수)

* TI-nspire 에서 거의 모든 변수는 실수취급합니다.
csolve 와 같이 복소수를 전문 취급하는 함수는 알아서 복소수로 처리할 때도 있습니다만, 이 때도 강제로 복소수 변수임을 지정해주는 편이 조금 더 바람직한 경우가 있습니다. 리퍼런스 가이드 참고