Mathematics Undergraduate over 10 yearsago

(1)(b)が答えみてもなんかわかんないんで教えてください。 返信してくださった方に答えの写真を送り返して解きやすい考えをくださいお願いします。 長文失礼します。