강의 10강에서 p99, 유형학습1문제에서
A+B=O에서 A를 곱하고, B를 곱해서 제곱들을 구한다고 하셨는데,
A+B=O에서 전체제곱을 해서 A^2+B^2+2AB=O 이라고 해서 풀어도 되나요?

네, 맞습니다.

X=ycos(theta), Y=ysin(theta)인 이유를 모르겠습니다

y^2 - z^2 =1 을 z 축으로 회전시킨 도형을 생각해 보세요.

x축이 생기며 3차원 곡면이 나올 것이며

회전체의 단면은 원이고 z축으로 회전하면 반지름 r 은 y 의 길이가 됩니다.

또한 xy평면으로 자른 단면이 반지름이 y 인 원이 되므로

X=rcos(theta)=ycos(theta) , Y = rsin(theta)=ysin(theta) 로 놓습니다.

풀이에서  (가)랑 (나),(다)의 A행렬이 다릅니다 이유가 무엇인가요?..

(나), (다)의 행렬이 잘못 기재되어 있습니다.

위의 행렬이 맞습니다.

6번처럼 야코비언으로 T의 행렬식 값이 -2라 삼각형 넓이 X 2 했는데 자꾸 5(2)^1/2가 나옵니다..

선형변환에 의해 옮겨진 도형의 크기는

그 전의 도형의 크기에 행렬식값을 곱하여 계산할 수 있으나 다 적용되는 것이 아닌

2차원에서는 넓이만 적용이되며

3차원에서는 부피만 적용이됩니다.

따라서 7번은 3차원에서 넓이에 대한 도형의 크기를 물어보는 것이므로

이 공식이 적용되지 않습니다.

핵공간의 차원은 해공간의 차원인데, 반대칭 행렬의 해공간의 차원은 n(n+1)/2 아닌가요?..

해설이 조금 부족해 보여 헷갈리는듯 한데,

선형변환L(A)의 핵공간 즉, L(A)=0 을 만족하는 A 가 반대칭행렬입니다.

따라서 L 의 핵공간의 차원은 반대칭행렬의 차원이 되어 n(n-1)/2 가 됩니다.